=============================================== OMLT: 优化与机器学习工具包

OMLT是一个Python包，用于在Pyomo优化环境中表示机器学习模型（神经网络和梯度提升树）。该包为机器学习模型提供了各种优化公式（如全空间、简化空间和混合整数线性规划），以及导入顺序Keras和通用ONNX模型的接口。

请引用本软件包的论文如下：

 @article{ceccon2022omlt,
      title={OMLT: Optimization & Machine Learning Toolkit},
      author={Ceccon, F. and Jalving, J. and Haddad, J. and Thebelt, A. and Tsay, C. and Laird, C. D and Misener, R.},
      journal={Journal of Machine Learning Research},
      volume={23},
      number={349},
      pages={1--8},
      year={2022}
 }

当使用线性模型决策树时，请额外引用以下论文：

 @article{ammari2023,
      title={Linear Model Decision Trees as Surrogates in Optimization of Engineering Applications},
      author= {Bashar L. Ammari and Emma S. Johnson and Georgia Stinchfield and Taehun Kim and Michael Bynum and William E. Hart and Joshua Pulsipher and Carl D. Laird},
      journal={Computers \& Chemical Engineering},
      volume = {178},
      year = {2023},
      issn = {0098-1354},
      doi = {https://doi.org/10.1016/j.compchemeng.2023.108347}
 }

当使用图神经网络时，请额外引用以下论文：

 @article{zhang2024,
      title = {Augmenting optimization-based molecular design with graph neural networks},
      author= {Shiqiang Zhang and Juan S. Campos and Christian Feldmann and Frederik Sandfort and Miriam Mathea and Ruth Misener},
      journal = {Computers \& Chemical Engineering},
      volume = {186},
      pages = {108684},
      year = {2024},
      issn = {0098-1354},
      doi = {https://doi.org/10.1016/j.compchemeng.2024.108684},
 }

文档

最新的OMLT文档可以在 readthedocs页面 <https://omlt.readthedocs.io/en/latest/index.html#>_ 找到。此外，当前的大部分功能都通过 notebooks文件夹 <https://github.com/cog-imperial/OMLT/tree/main/docs/notebooks>_ 中的Jupyter笔记本进行了演示。

示例

.. code-block:: Python

 import tensorflow
 import pyomo.environ as pyo
 from omlt import OmltBlock, OffsetScaling
 from omlt.neuralnet import FullSpaceNNFormulation, NetworkDefinition
 from omlt.io import load_keras_sequential

 #加载Keras模型
 nn = tensorflow.keras.models.load_model('tests/models/keras_linear_131_sigmoid', compile=False)

 #创建一个带有OMLT块的Pyomo模型
 model = pyo.ConcreteModel()
 model.nn = OmltBlock()

 #神经网络包含一个输入和一个输出
 model.input = pyo.Var()
 model.output = pyo.Var()

 #对输入和输出应用简单的偏移缩放
 scale_x = (1, 0.5)       #输入的(均值,标准差)
 scale_y = (-0.25, 0.125) #输出的(均值,标准差)
 scaler = OffsetScaling(offset_inputs=[scale_x[0]],
                     factor_inputs=[scale_x[1]],
                     offset_outputs=[scale_y[0]],
                     factor_outputs=[scale_y[1]])

 #提供输入变量的边界（例如来自训练）
 scaled_input_bounds = {0:(0,5)}

 #将keras模型加载到网络定义中
 net = load_keras_sequential(nn,scaler,scaled_input_bounds)

 #神经网络可以有多种公式表示方法
 #这里使用默认的NeuralNetworkFormulation对象
 formulation = FullSpaceNNFormulation(net)

#在OMLT块上构建公式 model.nn.build_formulation(formulation)

#查询输入和输出,以及缩放后的输入和输出 model.nn.inputs.display() model.nn.outputs.display() model.nn.scaled_inputs.display() model.nn.scaled_outputs.display()

#将pyomo模型的输入和输出连接到神经网络 @model.Constraint() def connect_input(mdl): return mdl.input == mdl.nn.inputs[0]

@model.Constraint() def connect_output(mdl): return mdl.output == mdl.nn.outputs[0]

#求解逆问题,找到最接近输出值0.5的输入 model.obj = pyo.Objective(expr=(model.output - 0.5)**2) status = pyo.SolverFactory('ipopt').solve(model, tee=False) print(pyo.value(model.input)) print(pyo.value(model.output))

开发

OMLT使用tox来管理开发任务:

tox -av列出可用任务
tox运行测试
tox -e lint检查格式和代码风格
tox -e format自动格式化文件
tox -e docs构建文档
tox -e publish将软件包发布到PyPi

贡献者

.. list-table:: :header-rows: 1 :widths: 10 40 50

- GitHub
- 姓名
- 致谢
- |jalving|_
- Jordan Jalving
- 这项工作由桑迪亚国家实验室的实验室导向研究与开发计划资助。
- |fracek|_
- Francesco Ceccon
- 这项工作由工程与物理科学研究理事会研究奖学金资助[资助号EP/P016871/1]。
- |carldlaird|_
- Carl D. Laird
- 最初工作由桑迪亚国家实验室的实验室导向研究与开发计划资助。目前工作由卡内基梅隆大学支持。
- |tsaycal|_
- Calvin Tsay
- 这项工作由工程与物理科学研究理事会研究奖学金资助[资助号EP/T001577/1],并得到帝国理工学院研究奖学金的额外支持。
- |thebtron|_
- Alexander Thebelt
- 这项工作由巴斯夫公司(BASF SE)支持,位于路德维希港。
- |bammari|_
- Bashar L. Ammari
- 这项工作由桑迪亚国家实验室的实验室导向研究与开发计划资助。
- |juan-campos|_
- Juan S. Campos
- 这项工作由工程与物理科学研究理事会研究奖学金资助[资助号EP/W003317/1]。
- |zshiqiang|_
- Shiqiang Zhang
- 这项工作由帝国理工学院Hans Rausing博士奖学金资助。