主题：对随机优化渐进收敛性的探讨

主讲人：Andre Milzarek 教授 香港中文大学（深圳）

主持人：安聪沛 副教授

时间：2023年4月14日（周五）10:30-11:35

讲座地点：通博楼B412

主办单位：数学学院 科研处

主讲人简介：

Andre Milzarek教授在2018年加入香港中文大学（深圳）。Andre Milzarek教授曾在德国慕尼黑工业大学Michael Ulbrich教授的指导下获得博士学位；他亦曾受邀在工业和应用数学学会（AISM）、数学编程国际研讨会（ISMP）等国际会议上发表报告，并在顶尖期刊上SIAM OPT, SIAM Matr Anal等发表论文多篇。

内容提要：

本报告在本次讲座中提出二阶方法的新扩展，以解决非光滑且非凸的一类结构优化问题。该扩展的方法利用随机或非随机的高阶信息，为问题的一阶最优性条件所蕴含的 prox 型不动点方程来生成半光滑牛顿步或拟牛顿步。除了介绍该算法的基本思想和基础外，本报告也将讨论一些通过方差缩减技术达到更好的算法复杂性边界的变体及其收敛结果。报告还通过对大规模逻辑回归、稀疏深度学习等问题的数值比较来说明非光滑二阶方法的有效性。并且讨论随机梯度法与KL不等式结合得出的相应分析结果。