互补问题自 1963 年首次提出以后便得到了广大研究者的重视，一直是数学规划研究中较为活跃的分支，在求解互补问题的算法的研究领域也取得了丰硕的成果. 本文一方面基于现有的各种光滑Newton法的思想和半光滑理论，利用著名的F-B互补函数的光滑形式，首先将互补问题的求解转化为求解一系列光滑的非线性方程组，然后给出了一种修正的光滑Newton法，该方法不仅放宽对函数 的要求，在Newton方程不可解时引入初始效益函数的最速下降方向，而且光滑因子的选择也比较简单可行，同时在适当的条件下，证明了其算法具有全局收敛性；另一方面，借助另一种F-B光滑函数，将多面体锥上的广义互补问题转化为一种光滑形式，讨论了优化问题的稳定点与广义非线性互补问题的解之间的理论关系，并将这种修正的光滑Newton法用于求解广义非线性互补问题中，在适当的条件下，该算法同样具有全局收敛性. 全文共分为四章，各部分内容安排如下：第一章是绪论部分，介绍了互补问题的应用背景和近年来有关互补问题求解方法的研究成果；第二章是预备知识，介绍了与求解互补问题有关的一些定义以及相关的定理和推论；第三章是本文的重点，提出了求解互补问题的一种修正的光滑Newton算法，从理论上对算法的全局收敛性了证明；第四章是这种修正的光滑Newton法用于求解广义非线性互补问题中，同样证明了算法的全局收敛性. 最后，总结了全文研究的内容，指出了还没有研究清楚的一些领域，提出了进一步研究的方向.