تئوری بهینهسازی
آرزوی انسان برای رسیدن به کمال مبین تئوری بهینهسازی است. انسان می‌خواهد بهترین را تجسم و توصیف کرده و به آن دست یابد (بیت‌لر1 و دیگران 1979، 1). اما از آنجایی که می‌داند نمی‌تواند تمام شرایط حاکم بر بهترین را به خوبی شناسایی و تعریف نماید در بیشتر موارد به جای جواب بهترین یا بهینه مطلق، به یک جواب رضایت‌بخش (وارنر2 1996، 3767-3769) بسنده می‌کند. هم‌چنین انسان در قضاوت عملکرد دیگران، معیار بهترین را در نظر نمی‌گیرد بلکه آنان را به صورت نسبی مورد ارزیابی قرار می‌دهد (گلدبرگ3 1989، 7). بنابراین انسان به دلیل ناتوانی خود در بهینهسازی، به بهبود ارزش ویژه‌ای می‌دهد. بیت لر و دیگران (1979، 1) بهینهسازی را چنین شرح می‌دهند: فعل «بهینه ساختن» که کلمه قوی‌تری نسبت به «بهبود» می‌باشد عبارتست از دستیابی به «بهینه»، و «بهینهسازی» اشاره به عمل بهینه ساختن دارد. بنابراین تئوری بهینهسازی شامل مطالعات کمی بهینه‌ها و روش یافتن آنهاست. هم‌چنین «بهینه» به عنوان یک واژه فنی دلالت بر اندازه‌گیری کمی و تحلیل ریاضی دارد در حالی که بهترین دارای دقت کمتر بوده و بیشتر برای امور روزمره استفاده می‌شود. در بیشتر موارد آنچه که با هدف بهینهسازی انجام می‌دهیم بهبود است. بهینهسازی به دنبال بهبود عملکرد در رسیدن به نقطه یا نقاط بهینه است. این تعریف دو قسمت دارد: (1) جستجوی بهبود برای رسیدن به (2) نقطه بهینه. تفاوت روشنی بین فرایند بهبود و مقصد یا نقطه بهینه وجود دارد. هنوز هم معمولاً در رویه‌های بهینهسازی تمرکز بر همگرایی است (آیا به نقطه بهینه می‌رسد؟) و عملکرد ضمنی رویه به طور کلی فراموش می‌شود. این اهمیت نسبت به همگرایی مربوط به ریشه‌های بهینهسازی در ریاضیات است اما همان طور که اشاره شد در عمل چنین اهمیتی طبیعی و معقول نمی‌باشد (گلدبرگ 1989، 6). این مقایسه قصد بی‌ارزش نشان دادن همگرایی و دقتهای معمول ریاضی را ندارد چرا که این حوزه خود مبنای ارزشمندی برای مقایسه روشهای بهینهسازی ارائه می‌کند. می توان هدف از فرایندهای جستجو را در سه دسته زیر بیان کرد: در شرایطی که ما به یافتن جواب در همسایگی جواب بهینه راضی باشیم هدف جستجو را شبه بهینهسازی می‌نامند. شبه بهینهسازی دارای دوطبقه است. اگر هدف یافتن جواب عملی خوب در فاصله تعریف شده‌ای از جواب بهینه باشد به آن بهینهسازی نزدیک4 گفته می‌شود. اگر شرط فاصله تعریف شده برای جواب بدست‌آمده حذف گردد و تنها یافتن جواب نزدیک بهینه با احتمال بالا، هدف باشد به آن بهینهسازی تقریبی5 گفته می‌شود. بیشتر مسائل عملی آنقدر مشکل هستند که در آنها هدف، شبه‌بهینه‌سازی در نظر گرفته می‌شود تا از این طریق تعادلی بین کیفیت جواب بدست آمده و هزینه جستجوی آن جواب برقرار گردد. هم‌چنین از آنجایی که تعداد محاسبات مسائل بهینهسازی ترکیبی به اعداد نجومی می‌رسد حذف شرط بهینگی یک ضرورت اقتصادی است. در شبه‌بهینه‌سازی باید الگوریتم‌هایی ارائه کرد که حدود مناسب میزان محاسبات و نزدیکی به بهینگی را تضمین نموده و تعادلی بین آنها برقرار نمایند. این الگوریتم‌ها باید مجهز به پارامترهای قابل تنظیم باشند تا کاربر بتواند با تغییر آن پارامترها تعادل مطلوب بین جواب بدست آمده و میزان محاسبات را برقرار نماید (پیرل6 1984، 1-10). در اینجا، مسائل بهینهسازی از نگاه نوع فضای جواب مسئله به دو دسته کلی تقسیم شده‌اند. - تئوری بهینهسازی
درمقایسه الگوریتم‌های بهینهسازی دو معیار همگرایی و عملکرد مطرح می‌شود. بعضی از الگوریتم‌ها دارای همگرایی بوده ولی ممکن است عملکرد ضعیفی داشته باشند، یعنی فرایند بهبود آنها از کارایی و سرعت لازم برخوردار نباشد. برعکس بعضی دیگر از الگوریتم‌ها همگرایی نداشته ولی عملکرد آنها خیلی خوب است.
2-انواع مسائل بهینهسازی
3-انواع رویکردها و روشهای حل مسائل بهینهسازی
