Fulltext

A New Preconditioned Inexact Line-Search Technique for Unconstrained Optimization

Abbas Y. Al-Bayati --- Ivan S. Latif

AL-Rafidain Journal of Computer Sciences and Mathematics مجلة الرافدين لعلوم الحاسوب والرياضيات
ISSN: 18154816 Year: 2012 Volume: 9 Issue: 2 Pages: 25-39
Publisher: Mosul University جامعة الموصل

Abstract

In this paper, we study the global convergence properties of the new class of preconditioned conjugate gradient descent algorithm, when applied to convex objective non-linear unconstrained optimization functions.We assume that a new inexact line search rule which is similar to the Armijo line-search rule is used. It's an estimation formula to choose a large step-size at each iteration and use the same formula to find the direction search. A new preconditioned conjugate gradient direction search is used to replace the conjugate gradient descent direction of ZIR-algorithm. Numerical results on twenty five well-know test functions with various dimensions show that the new inexact line-search and the new preconditioned conjugate gradient search directions are efficient for solving unconstrained nonlinear optimization problem in many situations.

في هذا البحث تم دراسة التقارب الشامل لخوارزمية جديدة من خوارزميات التدرج المترافق المشروطة باستخدام دوال غير مقيدة غير خطية محدبة. الخوارزمية الجديدة تعتمد على إيجاد خط بحث جديد مشابه لخط بحث Armijo التي تستخدم في إيجاد خطوات بحث أكبر ويستخدم نفس الصيغة لإيجاد اتجاه البحث في الخوارزمية الجديدة التي تقلل من كفاءة خوارزمية التدرج المترافق المستخدمة. تم استحداث خوارزمية جديدة للتدرج المترافق المشروط باستخدام خوارزمية لأشباه نيوتن. النتائج العملية لـ (25) دالة وبأبعاد مختلفة توضح بأن خط البحث الجديد مع الاتجاه الجديد للخوارزمية المقترحة أكثر كفاءة في إيجاد حلول الدوال اللاخطية وغير المقيدة مقارنة بالخوارزميات المماثلة في مجالات عدة.

Keywords

Preconditioned CG --- Unconstrained Optimization --- Self-Scaling VM-update --- inexact Line-Search.