rezahd
February 21st, 2012, 20:04
شبکه‌هاي عصبي مصنوعي
- مقدمه
1-1- ايده پيدايش شبكه‌هاي عصبي مصنوعي
آيا كامپيوتر ميتواند همان نوع از محاسباتي را كه يك فرد هوشمند انجام ميدهد به كار گيرد؟
بسياري از دانشمندان عقيده داشته ودارند كه اين بحث بايد مورد توجه قرار
گيرد. شبكه‌هاي عصبي در حل مسائل يك جهت جديد و متمايز نسبت به كامپيترهاي
عمومي مي‌گشود. كامپيوترهاي عمومي از يك الگوريتم استفاده مي‌كنند يعني
براي حل مسائل از يك سري دستورات از پيش تعيين شده پيروي مي‌كنند مگر در
مواقع ويژه‌اي كه كامپيوتر نياز به يك‌سري اطلاعات براي حل مسئله دارد. و
همين مسئله توانايي پردازش را از كامپيوترهاي عمومي به مسائلي كه ما قبلا
فهميده‌ايم و روش حل آنها را شناخته‌ايم محدود مي‌كند و تنها سرعت عمل و
قدرت در حل نمونه‌هاي بزرگتر را به همراه دارند. اما كامپيوترها بايد به
قدري مفيد باشند كه بتوانند كارهايي را انجام دهند كه واقعا ما نمي‌دانيم
چگونه بايد آنها را انجام دهيم.
1-2- بررسي سلولهاي مغزي افراد
تحقيق درباره سلولهاي مغزي افراد و همچنين شناخت Neuron ها يا رشته‌هاي
مغزي وبيان يك راه نسبتا متفاوت كه يك سيستم هوشمند را بنا مي‌كند شروع
شد. مغز بشر متشكل از ميليونها نرون عصبي منحصر بفرد است واين رشته‌هاي
عصبي به اشكال و اندازه‌هاي مختلف تغيير مي‌كنند.. هر نرون عموما يك هسته
دارد و يك‌سري سلولهاي عصبي Axon (آكسون)ـ كه علائم خروجي را به سلولهاي
عصبي نرون ديگر حمل مي‌كنندـ و Dendrite ها (شاخه‌هاي سلولهاي عصبي).
علائم در سلولهاي عصبي ميان شاخه‌هاي سلولهاي عصبي ونواحي خروجي جريان
دارند.
در اينجا براي حالت برانگيزش بايد آشفتگي از يك حدي تجاوز كند كه آستانه
يا سرحد ناميده مي‌شود و پس از برانگيزش نرونها پيامهايي براي نرونهاي
ديگر مي‌فرستند و خود را براي دريافت و پاسخ به اطلاعات عمومي آماده
مي‌كنند.
1-3- تاريخچه
شبكه‌هاي عصبي دهها سال است كه جلب توجه مي‌كنند وتاكنون راه حلهايي براي
استفاده از هوش بشري ارائه شده است. اولين نرون مصنوعي درسال 1943 توسط
نروفيزيولوژيست وارن‌مك‌كالوك و منطق دان والتر‌پيتز توليد شد.در دهه 60
به دلايلي كه خارج از بحث اين مقاله است مردم به‌سوي شبكه‌هاي عصبي متمايل
شدند و تنها در دهه 80 دانشمندان توانايي‌هاي واقعي شبكه‌هاي عصبي را
ديدند.
---------- Post added at 07:58 PM ---------- Previous post was at 07:56 PM ----------
شبکه‌هاي عصبي مصنوعي
-1- شبكه‌هاي عصبي مصنوعي
شبكه‌هاي عصبي شبيه به مغز انسان اطلاعاتي را پردازش مي‌كنند. شبكه از
تعداد زيادي سلولهاي عصبي(Neuron ها) تشكيل شده با پردازشي بسيار بزرگ و
به‌هم پيوسته كه در حل موازي مسائل ويژه مشغول به كارند.
يادگيري شبكه‌هاي عصبي از طريق مثالهاست. آنها براي انجام يك كار خاص
برنامه‌ريزي نشده‌اند. مثالها بايد با دقت بسيار بالايي انتخاب شوند والا
زمان مفيد هدر خواهد رفت و يا حتي ممكن است شبكه به طور ناقص داير شود و
در اينجا راهي براي فهميدن اينكه سيستم معيوب است يا خير وجود ندارد مگر
اينكه خطايي رخ دهد.
شبكه‌هاي عصبي مصنوعي يك تركيبي از مجموعه نرون‌هاست و البته نرونهاي
مصنوعي‌اي كه بسيار شبيه به نرونهاي زيستي كار مي‌كنند. و بدين گونه است
كه وروديهاي زيادي با وزنهاي مختلف مي‌گيرد و يك خروجي كه به ورودي وابسته
است توليد مي‌كند. نرونهاي زيستي مي‌توانند در حال برانگيزش باشند يا
نباشند. ( وقتي يك نرون برانگيخته مي‌شود ضربه علائم خروجي آن مقداري كمتر
از 100 هرتز است)
شبكه‌هاي عصبي استفاده وسيعي در شناسايي الگوها دارند زيرا از خودشان
قابليت آن را دارند كه بطور عمومي به وروديهاي غير منتظره نيز پاسخ دهند.
در طول ساخت نرونها مي‌آموزند كه چگونه الگوهاي ويژه گوناگون را تشخيص
دهند. اگر الگويي پذيرفته شود در حالي كه در طول اجرا ورودي با خروجي
مرتبط نباشد، نرون از مجموعهاي از الگوهايي كه سابقا آموخته خروجيي را كه
شبيه به الگو مي‌باشد وكمترين تفاوت را با ورودي دارد انتخاب مي‌كند. اين
روال عموما فراخواني مي‌شود.
مثال:
وقتي كه ورودي نرون 1111 باشد چهار ورودي بر حسب برانگيزش مرتب شده‌اند و
وقتي وروديهاي 0000 را داريم نرون براي برانگيزش مرتب نيست. قاعده عمومي
اين است كه نرونها مايلند برانگيخته شوند وقتي كه ورودي‌ها 0111 ، 1011 ،
1101 ، 1110 يا 1111 باشند و در صورتي كه ورودي آنها 1000 ، 0001 ، 0010 ،
0100 يا 0000 باشند مايل به برانگيخته شدن نيستند.
شناسايي الگوهاي پيچيده سطح بالا ميتواند به وسيله شبكه‌اي از نرونها
انجام شود و بدين ترتيب نام آن را شبكه‌هاي عصبي مصنوعي گذاشتند. اكنون
شبكه‌هاي عصبي كاربردهاي زيادي دارند(درمنطق وكلام و شناسايي عكسها)البته
شناسايي الگوهامي‌تواند به‌طور موفقيت آميز بر روي كامپيوترهاي عمومي
انجام شود. اين شبكه‌هاي عمومي كه براي شناسايي الگوها استفاده مي‌شوند
Feed-Forward ناميده مي‌شدند زيرا آنها يك بازخورد (Feed-Back) داشتند.
آنها به‌طور ساده ورودي‌ها را با خروجي‌ها مي‌آميختند. اما شناسايي الگوها
به تدريج كاملتر شد به‌طوريكه بر روي كامپيوترهاي عمومي با سيستم خاص
خودشان به‌سختي انجام مي‌شد پس براي شناسايي الگوها شبكه‌هاي Feed-Forward
كافي نبودند.
در شبكه‌هاي عصبي خروجي هر نرون به ورودي نرونهاي مجاورش متصل شده است.
شبكه‌هاي عصبي نمي‌توانند معجزه كنند اما اگر به درستي استفاده شوند نتايج
شگفت‌انگيزي خواهند داشت.
2-2- مشخصات مسائل در خور شبكه‌هاي عصبي مصنوعي ANN(Artificial Neural Network)
تقليد از ساختارهاي محاسباتي سيستم زيستي ممكن است ايده اصلي نمونه‌هاي
محاسباتي براي ساخت كلاسهايي از مسائل باشد. از جمله اين مسائل مي‌توان از
مسائل مشكل NP كه شامل مسائل طبقه‌بندي شده، زمانبندي‌شده، جستجو وغيره
نام برد، كلاس مسائل شناسايي الگوها، افراد و موضوعات مشخص را در ديدار و
تماس با آنها مي‌شناسد و كلاس مربوط به داده‌هاي ناقص، اشتباه، متناقض،
فازي و احتمالي. اين مسائل توسط همه يا برخي از موارد زير توصيف مي‌شوند:
يك فضاي مسئله با بعد بزرگ، پيچيده، ناشناخته با اثرات متقابل پيچيده
رياضي‌وار بين متغييرها و يك فضاي راه‌حل كه ممكن است خالي باشد(شامل يك
راه‌حل يكتا يا بيشتر ، شامل تعدادي از راه‌حلهاي مفيد)به نظر مي‌رسد ANN
ها راه‌حلهايي براي مسائلي كه با وروديهاي حسي بيشتر درگيرند ارائه
ميدهد(صحبت‌كردن، ديدن، شناسايي دستخط و…).
2-3- كاربردهاي شبكه‌هاي عصبي مصنوعي ANN
مي‌توان موارد زير را از كاربردهاي شبكه‌هاي عصبي مصنوعي ذكر كرد:
پردازش تصوير و ديد( Image processing and computer vision )
پردازش علائم( Signal processing شامل ريخت‌شناسي و تجزيه و تحليل علائم مربوط به زمين‌لرزه‌ها و…
شناسايي الگوها( Pattern recognition شامل شناسايي چهره، اثر انگشت، تشخيص نوع صدا و نوع صحبت كردن، دستخط و …
پزشكي( Medicine شامل تجزيه و تحليل و تشخيص علائم دستگاه ضربان‌نگار قلب (الكتروكارديوگرافيك)، تشخيص امراض گوناگون و …
سيستمهاي نظامي( Military systems شامل رديابي مين‌هاي زيردريايي، دسته‌بندي صداهاي نابه‌هنجار و مخل در رادارها و شناسايي گوينده رزمي.
سيستمهاي تجاري( Financial systems شامل تجزيه و تحليل انبار مغازه‌ها، ارزيابي واقعي املاك و …
برنامه‌ريزي، كنترل و جستجو( Planning, control, and search شامل اجراي موازي مسائل و كنترل رباتها.
هوش مصنوعي( Artificial intelligence شامل برخي سيستمهاي طبي و اجراي سيستمهاي خبره.
سيستمهاي قدرت( Power systems شامل برآورد وضعيت سيستم، رديابي سريع و دسته‌بندي رديابي، رديابي خطا و ترميم آن، پيش‌بيني و برآورد تخمين امنيت.
---------- Post added at 07:59 PM ---------- Previous post was at 07:58 PM ----------
شبکه‌هاي عصبي مصنوعي
-1- شبكه‌هاي عصبي مصنوعي
شبكه‌هاي عصبي شبيه به مغز انسان اطلاعاتي را پردازش مي‌كنند. شبكه از
تعداد زيادي سلولهاي عصبي(Neuron ها) تشكيل شده با پردازشي بسيار بزرگ و
به‌هم پيوسته كه در حل موازي مسائل ويژه مشغول به كارند.
يادگيري شبكه‌هاي عصبي از طريق مثالهاست. آنها براي انجام يك كار خاص
برنامه‌ريزي نشده‌اند. مثالها بايد با دقت بسيار بالايي انتخاب شوند والا
زمان مفيد هدر خواهد رفت و يا حتي ممكن است شبكه به طور ناقص داير شود و
در اينجا راهي براي فهميدن اينكه سيستم معيوب است يا خير وجود ندارد مگر
اينكه خطايي رخ دهد.
شبكه‌هاي عصبي مصنوعي يك تركيبي از مجموعه نرون‌هاست و البته نرونهاي
مصنوعي‌اي كه بسيار شبيه به نرونهاي زيستي كار مي‌كنند. و بدين گونه است
كه وروديهاي زيادي با وزنهاي مختلف مي‌گيرد و يك خروجي كه به ورودي وابسته
است توليد مي‌كند. نرونهاي زيستي مي‌توانند در حال برانگيزش باشند يا
نباشند. ( وقتي يك نرون برانگيخته مي‌شود ضربه علائم خروجي آن مقداري كمتر
از 100 هرتز است)
شبكه‌هاي عصبي استفاده وسيعي در شناسايي الگوها دارند زيرا از خودشان
قابليت آن را دارند كه بطور عمومي به وروديهاي غير منتظره نيز پاسخ دهند.
در طول ساخت نرونها مي‌آموزند كه چگونه الگوهاي ويژه گوناگون را تشخيص
دهند. اگر الگويي پذيرفته شود در حالي كه در طول اجرا ورودي با خروجي
مرتبط نباشد، نرون از مجموعهاي از الگوهايي كه سابقا آموخته خروجيي را كه
شبيه به الگو مي‌باشد وكمترين تفاوت را با ورودي دارد انتخاب مي‌كند. اين
روال عموما فراخواني مي‌شود.
مثال:
وقتي كه ورودي نرون 1111 باشد چهار ورودي بر حسب برانگيزش مرتب شده‌اند و
وقتي وروديهاي 0000 را داريم نرون براي برانگيزش مرتب نيست. قاعده عمومي
اين است كه نرونها مايلند برانگيخته شوند وقتي كه ورودي‌ها 0111 ، 1011 ،
1101 ، 1110 يا 1111 باشند و در صورتي كه ورودي آنها 1000 ، 0001 ، 0010 ،
0100 يا 0000 باشند مايل به برانگيخته شدن نيستند.
شناسايي الگوهاي پيچيده سطح بالا ميتواند به وسيله شبكه‌اي از نرونها
انجام شود و بدين ترتيب نام آن را شبكه‌هاي عصبي مصنوعي گذاشتند. اكنون
شبكه‌هاي عصبي كاربردهاي زيادي دارند(درمنطق وكلام و شناسايي عكسها)البته
شناسايي الگوهامي‌تواند به‌طور موفقيت آميز بر روي كامپيوترهاي عمومي
انجام شود. اين شبكه‌هاي عمومي كه براي شناسايي الگوها استفاده مي‌شوند
Feed-Forward ناميده مي‌شدند زيرا آنها يك بازخورد (Feed-Back) داشتند.
آنها به‌طور ساده ورودي‌ها را با خروجي‌ها مي‌آميختند. اما شناسايي الگوها
به تدريج كاملتر شد به‌طوريكه بر روي كامپيوترهاي عمومي با سيستم خاص
خودشان به‌سختي انجام مي‌شد پس براي شناسايي الگوها شبكه‌هاي Feed-Forward
كافي نبودند.
در شبكه‌هاي عصبي خروجي هر نرون به ورودي نرونهاي مجاورش متصل شده است.
شبكه‌هاي عصبي نمي‌توانند معجزه كنند اما اگر به درستي استفاده شوند نتايج
شگفت‌انگيزي خواهند داشت.
2-2- مشخصات مسائل در خور شبكه‌هاي عصبي مصنوعي ANN(Artificial Neural Network)
تقليد از ساختارهاي محاسباتي سيستم زيستي ممكن است ايده اصلي نمونه‌هاي
محاسباتي براي ساخت كلاسهايي از مسائل باشد. از جمله اين مسائل مي‌توان از
مسائل مشكل NP كه شامل مسائل طبقه‌بندي شده، زمانبندي‌شده، جستجو وغيره
نام برد، كلاس مسائل شناسايي الگوها، افراد و موضوعات مشخص را در ديدار و
تماس با آنها مي‌شناسد و كلاس مربوط به داده‌هاي ناقص، اشتباه، متناقض،
فازي و احتمالي. اين مسائل توسط همه يا برخي از موارد زير توصيف مي‌شوند:
يك فضاي مسئله با بعد بزرگ، پيچيده، ناشناخته با اثرات متقابل پيچيده
رياضي‌وار بين متغييرها و يك فضاي راه‌حل كه ممكن است خالي باشد(شامل يك
راه‌حل يكتا يا بيشتر ، شامل تعدادي از راه‌حلهاي مفيد)به نظر مي‌رسد ANN
ها راه‌حلهايي براي مسائلي كه با وروديهاي حسي بيشتر درگيرند ارائه
ميدهد(صحبت‌كردن، ديدن، شناسايي دستخط و…).
2-3- كاربردهاي شبكه‌هاي عصبي مصنوعي ANN
مي‌توان موارد زير را از كاربردهاي شبكه‌هاي عصبي مصنوعي ذكر كرد:
پردازش تصوير و ديد( Image processing and computer vision )
پردازش علائم( Signal processing شامل ريخت‌شناسي و تجزيه و تحليل علائم مربوط به زمين‌لرزه‌ها و…
شناسايي الگوها( Pattern recognition شامل شناسايي چهره، اثر انگشت، تشخيص نوع صدا و نوع صحبت كردن، دستخط و …
پزشكي( Medicine شامل تجزيه و تحليل و تشخيص علائم دستگاه ضربان‌نگار قلب (الكتروكارديوگرافيك)، تشخيص امراض گوناگون و …
سيستمهاي نظامي( Military systems شامل رديابي مين‌هاي زيردريايي، دسته‌بندي صداهاي نابه‌هنجار و مخل در رادارها و شناسايي گوينده رزمي.
سيستمهاي تجاري( Financial systems شامل تجزيه و تحليل انبار مغازه‌ها، ارزيابي واقعي املاك و …
برنامه‌ريزي، كنترل و جستجو( Planning, control, and search شامل اجراي موازي مسائل و كنترل رباتها.
هوش مصنوعي( Artificial intelligence شامل برخي سيستمهاي طبي و اجراي سيستمهاي خبره.
سيستمهاي قدرت( Power systems شامل برآورد وضعيت سيستم، رديابي سريع و دسته‌بندي رديابي، رديابي خطا و ترميم آن، پيش‌بيني و برآورد تخمين امنيت.
---------- Post added at 08:04 PM ---------- Previous post was at 07:59 PM ----------
--انواع يادگيري براي شبكه هاي عصبي:
1.يادگيري با ناظر
در يادگيري با ناظر به قانون ياد گيري مجموعه اي از زوجهاي داده ها به نام
داده هاي يادگيري (Pi,Ti)i={1 … l } مي دهند كه در آن Pi ورودي به شبكه و
Ti خروجي مطلوب شبكه براي ورودي Pi است. پس از اعمال ورودي Pi به شبكه
عصبي در خروجي شبكه ai با Ti مقايسه شده و سپس خطاي يادگيري محاسبه و از
آن در جهت تنظيم پارامترهاي شبكه استفاده مي شود به گونه اي كه اگر دفعه
بعد به شبكه همان ورودي Pi اعمال شود خروجي شبكه به Ti نزديكتر مي گردد با
توجه به اين نكته كه معلم سيستمي است كه بر محيط وقوف دارد ( مثلا مي داند
كه براي ورودي Pi خروجي مطلوب Ti است ).توجه داريم كه محيط براي شبكه عصبي
مجهول است . در لحظه k بردار ورودي Pi(k) با تابع توضيع احتمال معيني كه
براي شبكه عصبي نا معلوماست انتخاب و بطور همزمان به شبكه عصبي و معلم
اعمال مي شود . جواب مطلوب Ti(k) نيز توسط معلم به شبكه عصبي داده مي شود
. در حقيقت پاسخ مطلوب پاسخ بهينه اي است كه شبكه عصبي براي ورودي مفروض
بايد به آن برسد . پارامترهاي شبكه عصبي توسط دو سيگنال ورودي و خطا تنظيم
مي شود.به اين صورت كه پس از چند تكرار الگوريتم يادگيري كه عموما توسط
معادله تفاضلي بيان مي شودبه پارامترهايي در فضاي پارامترهاي شبكه همگرا
مي شوند كه براي آنها خطاي يادگيري بسيار كوچك است و عملا شبكه عصبي شبكه
عصبي معادل معلم مي شود . يا به عبارتي ديگر اطلاعات مربوط به محيط (نگاشت
بين TiوPi )كه براي معلم روشن است به شبكه عصبي منتقل مي شود و پس از اين
مرحله عملا مي توان بجاي معلم از شبكه عصبي استفاده كرد تا يادگيري تكميل
شود .
--2.يادگيري تشديدي:
يك اشكال يادگيري با ناظر اين است كه شبكه عصبي ممكن است بدون معلم نتواند
مواضع جديدي را كه توسط مجموعه داده هاي جديد تجربي پوشانده نشده است ياد
بگيرد . يادگيري از نوع تشديدي اين محدوديت را برطرف مي كند . اين نوع
يادگيري بطور on-line صورت مي گيرد در حالي كه يادگيري با ناظر را به دو
صورت on-line & off-line مي توان انجام داد. در حالت off-line مي توان
از يك سيستم محاسب با در اختيار داشتن داده هاي يادگيري استفاده كرد و
طراحي شبكه عصبي را به پايان رساند . پس از مرحله طراحي و يادگيري شبكه
عصبي به عنوان يك سيستم استاتيكي عمل مي كند . اما در يادگيري on-line
شبكه عصبي همراه با خود سيستم يادگير در حال انجام كار است و از اين رو
مثل يك سيستم ديناميكي عمل مي كند .
يادگيري از نوع تشديدي يك يادگيري on-line از يك نگاشت ورودي-خروجي است .
اين كار از طريق يك پروسه سعي و خطا به صورتي انجام مي پذيرد كه يك شاخص
اجرايي موسوم به سيگنال تشديد ماكزيمم شود و بنابر اين الگوريتم نوعي از
يادگيري با ناظر است كه در آن به جاي فراهم نمودن جواب واقعي ، به شبكه
عددي كه نشانگر ميزان عملكرد شبكه است ارايه مي شود. اين بدين معني است كه
اگر شبكه عصبي پارامترهايش را به گونه اي تغيير داد كه منجر به يك حالت
مساعد شد آنگاه تمايل سيستم يادگير جهت توليد آن عمل خاص تقويت يا تشديد
مي شود . در غير اين صورت تمايل شبكه عصبي جهت توليد آن عمل خاص تضعيف مي
شود . يادگيري تقويتي مثل يادگيري با ناظر نيست و اين الگوريتم بيشتر براي
سيستمهاي كنترلي كاربرد دارد .
--3. يادگيري بدون ناظر
در يادگيري بدون ناظر يا يادگيري خود سامانده پارامترهاي شبكه عصبي تنها
توسط پاسخ سيستم اصلاح و تنظيم مي شوند . به عبارتي تنها اطلاعات دريافتي
از محيط به شبكه را برداغرهاي ورودي تشكيل مي دهند. و در مقايسه با مورد
بالا (يادگيري با ناظر) بردار جواب مطلوب به شبكه اعمال نمي شود . به
عبارتي به شبكه عصبي هيچ نمونه اي از تابعي كه قرار است بياموزد داده نمي
شود . در عمل مي بينيم كه يادگيري با ناظر در مورد شبكه هايي كه از تعداد
زيادي لايه هاي نروني تشكيل شده باشند بسيار كند عمل مي كند و در اين گونه
موارد تلفيق يادگيري با ناظر و بدون ناظر پيشنهاد مي گردد .
2-4- زمينه‌اي در مورد perceptron
Perceptron هاي ساده
يك خانواده ساده از شبكه‌هاي عصبي مدل perceptron مي‌باشد. در يك
دسته‌بندي تك‌خروجي، تعداد n ورودي و يك خروجي دارد . با هر ورودي يك ضريب
وزني Wi و با هر خروجي يك مقدار آستانه q مرتبط است.
Perceptron به گونه زير عمل مي‌كند:
وروديهاي Perceptron يك بردار ورودي از n مقدار حقيقي است.
Perceptron مجموع وزنها را محاسبه مي‌كند a= ه Wi.Xi. اين مقدار با مقدار
آستانه q مقايسه مي‌شود. اگر اين مقدار از مقدار آستانه كوچكتر باشد خروجي
0 است و در غير اين صورت 1 است.
قدرت Perceptron
به وسيله تنظيم اعداد ورودي، وزن آنها و مقدار آستانه مي‌توان يك
Perceptron براي انجام نسبتا خوب محاسبات گوناگون طراحي كرد. براي مثال
توابع منطقي بولين مانند AND ، OR و NOT را مي‌توان به وسيله Perceptron
طراحي كرد و هر مدار منطقي ديگر را به وسيله گيتهاي AND و NOT يا AND و OR
طراحي كرد. دسته‌هاي زيادي از Perceptronها ممكن است خروجي‌هاي دسته‌هاي
ديگر را به عنوان ورودي خود درخواست كنند.
به عنوان مثالي ازPerceptron ها مي‌توان يك تشخيص دهنده قالب متن را نام
برد. حرفA درآرايه‌اي 5*5 به‌رمز درمي‌آيد(encode مي‌شود). اين متن(حرف)
به‌وسيله يك Perceptron با 25 ورودي تشخيص داده مي‌شود كه در آن وزنها
مقاديري برابر با مقادير عددي داخل آرايه را مي‌گيرند و مقدار آســتانه
برابر است با: e-25 =q كه در آن 0 < e < 1 .
خروجي Perceptron 1 است اگر و فقط اگر ورودي آن از 1 و 1- هايي باشد كه عينا در آرايه آمده است.
دنباله‌هاي Perceptron
يكي از خصوصيات جالب Perception اين است كه آنها مي‌توانند به وسيله
مثالهاي مثبت و منفي ( صحيح و اشتباه) براي انجام توابع دسته‌بندي شده
مخصوص بارها مرتب شوند.
حال به يك مثال ساده از Perceptron با دو وروديX1 وX2 ، كه تشخيص ميدهد
كه كدام‌يك از دو كلاس، عناصر متعلق به خودش را دارد. ما فرض مي‌كنيم كه
اين Perceptron دو طرح از كاركترهاي چاپ شده از يك متن را بررسي كند،
خروجي 1 است اگر و فقط اگر كاراكتر رقم 8 باشد. فرض كنيم كه X1 بيانگر
تعداد حفره‌هاي كاراكتر است و X2 درجه راستي سمت چپ كاراكتر را نشان
ميدهد. ما با 4 ورودي .
اگر ما perceptron را در اول كار با وزنهايي برابر 0 و مقدار آستانه را
برابر 10 مقداردهي كنيم يك رده‌بندي از همه مثالهاي منفي انجام داده‌ايم.
با قرار دادن رده‌بندي‌هاي نادرست از 8 ، مقادير ورودي از مثال 8 با بعضي
فاكتورها مثل d جمع مي‌شوند و توليدات جديد با وزنهاي متناظر با ايجاد
مي‌شوند.
فرض كنيم 1=d پس وزن ورودي‌ها از 0 به 1 و 2 رشد پيدا مي‌كند. حال در
اينجا 5 = a به دست مي‌آيد كه هنوز از مقدار آستانه 10 كوچكتر است. مثال
هنوز به رده‌بندي صحيحي نرسيده است واين قدم دنباله بايد تكرار شود. بعد
از دو قدم وزنها برابر 2 و 4 مي‌شوند كه مقدار 10 = a را نتيجه ميدهد كه
برابر مقدار آستانه است و مثال مثبت از 8 به طور صحيح دسته‌بندي شده است.
از آنجا كه ضرايب وزني تغيير كرده بودند لازم است كه در همه مثالها
رده‌بندي‌ها بازنشان ( Reset ) شوند. اين را مي‌توان به سادگي ديد كه مثال
B رده‌بندي نادرستي است زيرا با وزنهاي 2 و 4 داريم 24 = a ولي اين حرف
مورد نظر ما نيست، چون اين مرحله را پيش رفته‌ايم لازم است كه d.1 از W1 و
d.2 از W2 كم شود تا رده‌بندي نادرستي از B ثابت شود. به هر حال يك
رده‌بندي از 8 را دوباره بيرون ميدهد.
بعدها موقع بروز خطا ما وزنها را براي درست كردن خطاهاي رده‌بندي اصلاح
مي‌كنيم. اگر مثالها داراي خاصيت صحيحي باشند وزنها در مجموعهاي از
مقاديري كه به درستي روي هر ورودي كار مي‌كنند قرار مي‌گيرند.
قضيه بنيادي دنباله‌ها:
يك خصوصيت قابل توجه perceptron اين است كه آنها مي‌توانند دنباله‌اي از رده‌بندي صحيح مثالهاي مثبت ومنفي باشند.
فرض كنيم: X = X+ ب X-
X+ : مجموعهاي از مثالهاي مثبت
X- : مجموعهاي از مثالهاي منفي
گوييم كه رشته بي‌كران S x= X1 , X2 , …, Xk ,… يك رشته متوالي(ترتيبي)
براي X است در صورتي كه هر Xi يك مثال در X است و هر عنصر از X اغلب به
طور نامحدود در Sx رخ ميدهد(نمايان مي‌شود).
فرض كنيم Wk ضريب وزني در سطح k دنباله باشد. وزن اوليه ميتواند به صورت
قراردادي باشد (براي مثال W1=0 ). حال رشته استاندارد حاصله، وزنها را به
صورت زير ارتقا ميدهد:
بسته به استرادژي مورد نظر ممكن است مقادير C k همگي يكسان باشند يا ممكن است با k تغيير كنند.
قضيه 1)
باشد و يك بردار حل وزنها براي X وجود داشته باشد, در اين صورت رويه رشته
استاندارد بايد بعد از يك تعداد فرض كنيم يك مجموعه از رشته نمونه X و هر
رشته ترتيبي براي آن داريم, اگر Ck يك ثابت مثبت مراحل مشخص يك راه‌حل
پيدا كند به طوري كه اگر براي بعضي k0 ها داشته باشيم:
WK0 = WK0+1 = WK0+2 = …
كه WK0 يك راه‌حل براي X است.
بنابراين ما مي‌توانيم با استفاده از شبكه‌هاي عصبي هر چه بيشتر به
شبيه‌سازي انسان توسط كامپيوترها نزديك شويم به منظور واگذاري كارهاي
تكراري, وقت‌گير و مسائلي كه با توجه به پيشرفت بشري ديگر درخور بشر نيست.
--------------------------------------------------------------------------------
- مقدمه
1-1- ايده پيدايش شبكه‌هاي عصبي مصنوعي
آيا كامپيوتر ميتواند همان نوع از محاسباتي را كه يك فرد هوشمند انجام ميدهد به كار گيرد؟
بسياري از دانشمندان عقيده داشته ودارند كه اين بحث بايد مورد توجه قرار
گيرد. شبكه‌هاي عصبي در حل مسائل يك جهت جديد و متمايز نسبت به كامپيترهاي
عمومي مي‌گشود. كامپيوترهاي عمومي از يك الگوريتم استفاده مي‌كنند يعني
براي حل مسائل از يك سري دستورات از پيش تعيين شده پيروي مي‌كنند مگر در
مواقع ويژه‌اي كه كامپيوتر نياز به يك‌سري اطلاعات براي حل مسئله دارد. و
همين مسئله توانايي پردازش را از كامپيوترهاي عمومي به مسائلي كه ما قبلا
فهميده‌ايم و روش حل آنها را شناخته‌ايم محدود مي‌كند و تنها سرعت عمل و
قدرت در حل نمونه‌هاي بزرگتر را به همراه دارند. اما كامپيوترها بايد به
قدري مفيد باشند كه بتوانند كارهايي را انجام دهند كه واقعا ما نمي‌دانيم
چگونه بايد آنها را انجام دهيم.
1-2- بررسي سلولهاي مغزي افراد
تحقيق درباره سلولهاي مغزي افراد و همچنين شناخت Neuron ها يا رشته‌هاي
مغزي وبيان يك راه نسبتا متفاوت كه يك سيستم هوشمند را بنا مي‌كند شروع
شد. مغز بشر متشكل از ميليونها نرون عصبي منحصر بفرد است واين رشته‌هاي
عصبي به اشكال و اندازه‌هاي مختلف تغيير مي‌كنند.. هر نرون عموما يك هسته
دارد و يك‌سري سلولهاي عصبي Axon (آكسون)ـ كه علائم خروجي را به سلولهاي
عصبي نرون ديگر حمل مي‌كنندـ و Dendrite ها (شاخه‌هاي سلولهاي عصبي).
علائم در سلولهاي عصبي ميان شاخه‌هاي سلولهاي عصبي ونواحي خروجي جريان
دارند.
در اينجا براي حالت برانگيزش بايد آشفتگي از يك حدي تجاوز كند كه آستانه
يا سرحد ناميده مي‌شود و پس از برانگيزش نرونها پيامهايي براي نرونهاي
ديگر مي‌فرستند و خود را براي دريافت و پاسخ به اطلاعات عمومي آماده
مي‌كنند.
1-3- تاريخچه
شبكه‌هاي عصبي دهها سال است كه جلب توجه مي‌كنند وتاكنون راه حلهايي براي
استفاده از هوش بشري ارائه شده است. اولين نرون مصنوعي درسال 1943 توسط
نروفيزيولوژيست وارن‌مك‌كالوك و منطق دان والتر‌پيتز توليد شد.در دهه 60
به دلايلي كه خارج از بحث اين مقاله است مردم به‌سوي شبكه‌هاي عصبي متمايل
شدند و تنها در دهه 80 دانشمندان توانايي‌هاي واقعي شبكه‌هاي عصبي را
ديدند.
---------- Post added at 07:58 PM ---------- Previous post was at 07:56 PM ----------
شبکه‌هاي عصبي مصنوعي
-1- شبكه‌هاي عصبي مصنوعي
شبكه‌هاي عصبي شبيه به مغز انسان اطلاعاتي را پردازش مي‌كنند. شبكه از
تعداد زيادي سلولهاي عصبي(Neuron ها) تشكيل شده با پردازشي بسيار بزرگ و
به‌هم پيوسته كه در حل موازي مسائل ويژه مشغول به كارند.
يادگيري شبكه‌هاي عصبي از طريق مثالهاست. آنها براي انجام يك كار خاص
برنامه‌ريزي نشده‌اند. مثالها بايد با دقت بسيار بالايي انتخاب شوند والا
زمان مفيد هدر خواهد رفت و يا حتي ممكن است شبكه به طور ناقص داير شود و
در اينجا راهي براي فهميدن اينكه سيستم معيوب است يا خير وجود ندارد مگر
اينكه خطايي رخ دهد.
شبكه‌هاي عصبي مصنوعي يك تركيبي از مجموعه نرون‌هاست و البته نرونهاي
مصنوعي‌اي كه بسيار شبيه به نرونهاي زيستي كار مي‌كنند. و بدين گونه است
كه وروديهاي زيادي با وزنهاي مختلف مي‌گيرد و يك خروجي كه به ورودي وابسته
است توليد مي‌كند. نرونهاي زيستي مي‌توانند در حال برانگيزش باشند يا
نباشند. ( وقتي يك نرون برانگيخته مي‌شود ضربه علائم خروجي آن مقداري كمتر
از 100 هرتز است)
شبكه‌هاي عصبي استفاده وسيعي در شناسايي الگوها دارند زيرا از خودشان
قابليت آن را دارند كه بطور عمومي به وروديهاي غير منتظره نيز پاسخ دهند.
در طول ساخت نرونها مي‌آموزند كه چگونه الگوهاي ويژه گوناگون را تشخيص
دهند. اگر الگويي پذيرفته شود در حالي كه در طول اجرا ورودي با خروجي
مرتبط نباشد، نرون از مجموعهاي از الگوهايي كه سابقا آموخته خروجيي را كه
شبيه به الگو مي‌باشد وكمترين تفاوت را با ورودي دارد انتخاب مي‌كند. اين
روال عموما فراخواني مي‌شود.
مثال:
وقتي كه ورودي نرون 1111 باشد چهار ورودي بر حسب برانگيزش مرتب شده‌اند و
وقتي وروديهاي 0000 را داريم نرون براي برانگيزش مرتب نيست. قاعده عمومي
اين است كه نرونها مايلند برانگيخته شوند وقتي كه ورودي‌ها 0111 ، 1011 ،
1101 ، 1110 يا 1111 باشند و در صورتي كه ورودي آنها 1000 ، 0001 ، 0010 ،
0100 يا 0000 باشند مايل به برانگيخته شدن نيستند.
شناسايي الگوهاي پيچيده سطح بالا ميتواند به وسيله شبكه‌اي از نرونها
انجام شود و بدين ترتيب نام آن را شبكه‌هاي عصبي مصنوعي گذاشتند. اكنون
شبكه‌هاي عصبي كاربردهاي زيادي دارند(درمنطق وكلام و شناسايي عكسها)البته
شناسايي الگوهامي‌تواند به‌طور موفقيت آميز بر روي كامپيوترهاي عمومي
انجام شود. اين شبكه‌هاي عمومي كه براي شناسايي الگوها استفاده مي‌شوند
Feed-Forward ناميده مي‌شدند زيرا آنها يك بازخورد (Feed-Back) داشتند.
آنها به‌طور ساده ورودي‌ها را با خروجي‌ها مي‌آميختند. اما شناسايي الگوها
به تدريج كاملتر شد به‌طوريكه بر روي كامپيوترهاي عمومي با سيستم خاص
خودشان به‌سختي انجام مي‌شد پس براي شناسايي الگوها شبكه‌هاي Feed-Forward
كافي نبودند.
در شبكه‌هاي عصبي خروجي هر نرون به ورودي نرونهاي مجاورش متصل شده است.
شبكه‌هاي عصبي نمي‌توانند معجزه كنند اما اگر به درستي استفاده شوند نتايج
شگفت‌انگيزي خواهند داشت.
2-2- مشخصات مسائل در خور شبكه‌هاي عصبي مصنوعي ANN(Artificial Neural Network)
تقليد از ساختارهاي محاسباتي سيستم زيستي ممكن است ايده اصلي نمونه‌هاي
محاسباتي براي ساخت كلاسهايي از مسائل باشد. از جمله اين مسائل مي‌توان از
مسائل مشكل NP كه شامل مسائل طبقه‌بندي شده، زمانبندي‌شده، جستجو وغيره
نام برد، كلاس مسائل شناسايي الگوها، افراد و موضوعات مشخص را در ديدار و
تماس با آنها مي‌شناسد و كلاس مربوط به داده‌هاي ناقص، اشتباه، متناقض،
فازي و احتمالي. اين مسائل توسط همه يا برخي از موارد زير توصيف مي‌شوند:
يك فضاي مسئله با بعد بزرگ، پيچيده، ناشناخته با اثرات متقابل پيچيده
رياضي‌وار بين متغييرها و يك فضاي راه‌حل كه ممكن است خالي باشد(شامل يك
راه‌حل يكتا يا بيشتر ، شامل تعدادي از راه‌حلهاي مفيد)به نظر مي‌رسد ANN
ها راه‌حلهايي براي مسائلي كه با وروديهاي حسي بيشتر درگيرند ارائه
ميدهد(صحبت‌كردن، ديدن، شناسايي دستخط و…).
2-3- كاربردهاي شبكه‌هاي عصبي مصنوعي ANN
مي‌توان موارد زير را از كاربردهاي شبكه‌هاي عصبي مصنوعي ذكر كرد:
پردازش تصوير و ديد( Image processing and computer vision )
پردازش علائم( Signal processing شامل ريخت‌شناسي و تجزيه و تحليل علائم مربوط به زمين‌لرزه‌ها و…
شناسايي الگوها( Pattern recognition شامل شناسايي چهره، اثر انگشت، تشخيص نوع صدا و نوع صحبت كردن، دستخط و …
پزشكي( Medicine شامل تجزيه و تحليل و تشخيص علائم دستگاه ضربان‌نگار قلب (الكتروكارديوگرافيك)، تشخيص امراض گوناگون و …
سيستمهاي نظامي( Military systems شامل رديابي مين‌هاي زيردريايي، دسته‌بندي صداهاي نابه‌هنجار و مخل در رادارها و شناسايي گوينده رزمي.
سيستمهاي تجاري( Financial systems شامل تجزيه و تحليل انبار مغازه‌ها، ارزيابي واقعي املاك و …
برنامه‌ريزي، كنترل و جستجو( Planning, control, and search شامل اجراي موازي مسائل و كنترل رباتها.
هوش مصنوعي( Artificial intelligence شامل برخي سيستمهاي طبي و اجراي سيستمهاي خبره.
سيستمهاي قدرت( Power systems شامل برآورد وضعيت سيستم، رديابي سريع و دسته‌بندي رديابي، رديابي خطا و ترميم آن، پيش‌بيني و برآورد تخمين امنيت.
---------- Post added at 07:59 PM ---------- Previous post was at 07:58 PM ----------
شبکه‌هاي عصبي مصنوعي
-1- شبكه‌هاي عصبي مصنوعي
شبكه‌هاي عصبي شبيه به مغز انسان اطلاعاتي را پردازش مي‌كنند. شبكه از
تعداد زيادي سلولهاي عصبي(Neuron ها) تشكيل شده با پردازشي بسيار بزرگ و
به‌هم پيوسته كه در حل موازي مسائل ويژه مشغول به كارند.
يادگيري شبكه‌هاي عصبي از طريق مثالهاست. آنها براي انجام يك كار خاص
برنامه‌ريزي نشده‌اند. مثالها بايد با دقت بسيار بالايي انتخاب شوند والا
زمان مفيد هدر خواهد رفت و يا حتي ممكن است شبكه به طور ناقص داير شود و
در اينجا راهي براي فهميدن اينكه سيستم معيوب است يا خير وجود ندارد مگر
اينكه خطايي رخ دهد.
شبكه‌هاي عصبي مصنوعي يك تركيبي از مجموعه نرون‌هاست و البته نرونهاي
مصنوعي‌اي كه بسيار شبيه به نرونهاي زيستي كار مي‌كنند. و بدين گونه است
كه وروديهاي زيادي با وزنهاي مختلف مي‌گيرد و يك خروجي كه به ورودي وابسته
است توليد مي‌كند. نرونهاي زيستي مي‌توانند در حال برانگيزش باشند يا
نباشند. ( وقتي يك نرون برانگيخته مي‌شود ضربه علائم خروجي آن مقداري كمتر
از 100 هرتز است)
شبكه‌هاي عصبي استفاده وسيعي در شناسايي الگوها دارند زيرا از خودشان
قابليت آن را دارند كه بطور عمومي به وروديهاي غير منتظره نيز پاسخ دهند.
در طول ساخت نرونها مي‌آموزند كه چگونه الگوهاي ويژه گوناگون را تشخيص
دهند. اگر الگويي پذيرفته شود در حالي كه در طول اجرا ورودي با خروجي
مرتبط نباشد، نرون از مجموعهاي از الگوهايي كه سابقا آموخته خروجيي را كه
شبيه به الگو مي‌باشد وكمترين تفاوت را با ورودي دارد انتخاب مي‌كند. اين
روال عموما فراخواني مي‌شود.
مثال:
وقتي كه ورودي نرون 1111 باشد چهار ورودي بر حسب برانگيزش مرتب شده‌اند و
وقتي وروديهاي 0000 را داريم نرون براي برانگيزش مرتب نيست. قاعده عمومي
اين است كه نرونها مايلند برانگيخته شوند وقتي كه ورودي‌ها 0111 ، 1011 ،
1101 ، 1110 يا 1111 باشند و در صورتي كه ورودي آنها 1000 ، 0001 ، 0010 ،
0100 يا 0000 باشند مايل به برانگيخته شدن نيستند.
شناسايي الگوهاي پيچيده سطح بالا ميتواند به وسيله شبكه‌اي از نرونها
انجام شود و بدين ترتيب نام آن را شبكه‌هاي عصبي مصنوعي گذاشتند. اكنون
شبكه‌هاي عصبي كاربردهاي زيادي دارند(درمنطق وكلام و شناسايي عكسها)البته
شناسايي الگوهامي‌تواند به‌طور موفقيت آميز بر روي كامپيوترهاي عمومي
انجام شود. اين شبكه‌هاي عمومي كه براي شناسايي الگوها استفاده مي‌شوند
Feed-Forward ناميده مي‌شدند زيرا آنها يك بازخورد (Feed-Back) داشتند.
آنها به‌طور ساده ورودي‌ها را با خروجي‌ها مي‌آميختند. اما شناسايي الگوها
به تدريج كاملتر شد به‌طوريكه بر روي كامپيوترهاي عمومي با سيستم خاص
خودشان به‌سختي انجام مي‌شد پس براي شناسايي الگوها شبكه‌هاي Feed-Forward
كافي نبودند.
در شبكه‌هاي عصبي خروجي هر نرون به ورودي نرونهاي مجاورش متصل شده است.
شبكه‌هاي عصبي نمي‌توانند معجزه كنند اما اگر به درستي استفاده شوند نتايج
شگفت‌انگيزي خواهند داشت.
2-2- مشخصات مسائل در خور شبكه‌هاي عصبي مصنوعي ANN(Artificial Neural Network)
تقليد از ساختارهاي محاسباتي سيستم زيستي ممكن است ايده اصلي نمونه‌هاي
محاسباتي براي ساخت كلاسهايي از مسائل باشد. از جمله اين مسائل مي‌توان از
مسائل مشكل NP كه شامل مسائل طبقه‌بندي شده، زمانبندي‌شده، جستجو وغيره
نام برد، كلاس مسائل شناسايي الگوها، افراد و موضوعات مشخص را در ديدار و
تماس با آنها مي‌شناسد و كلاس مربوط به داده‌هاي ناقص، اشتباه، متناقض،
فازي و احتمالي. اين مسائل توسط همه يا برخي از موارد زير توصيف مي‌شوند:
يك فضاي مسئله با بعد بزرگ، پيچيده، ناشناخته با اثرات متقابل پيچيده
رياضي‌وار بين متغييرها و يك فضاي راه‌حل كه ممكن است خالي باشد(شامل يك
راه‌حل يكتا يا بيشتر ، شامل تعدادي از راه‌حلهاي مفيد)به نظر مي‌رسد ANN
ها راه‌حلهايي براي مسائلي كه با وروديهاي حسي بيشتر درگيرند ارائه
ميدهد(صحبت‌كردن، ديدن، شناسايي دستخط و…).
2-3- كاربردهاي شبكه‌هاي عصبي مصنوعي ANN
مي‌توان موارد زير را از كاربردهاي شبكه‌هاي عصبي مصنوعي ذكر كرد:
پردازش تصوير و ديد( Image processing and computer vision )
پردازش علائم( Signal processing شامل ريخت‌شناسي و تجزيه و تحليل علائم مربوط به زمين‌لرزه‌ها و…
شناسايي الگوها( Pattern recognition شامل شناسايي چهره، اثر انگشت، تشخيص نوع صدا و نوع صحبت كردن، دستخط و …
پزشكي( Medicine شامل تجزيه و تحليل و تشخيص علائم دستگاه ضربان‌نگار قلب (الكتروكارديوگرافيك)، تشخيص امراض گوناگون و …
سيستمهاي نظامي( Military systems شامل رديابي مين‌هاي زيردريايي، دسته‌بندي صداهاي نابه‌هنجار و مخل در رادارها و شناسايي گوينده رزمي.
سيستمهاي تجاري( Financial systems شامل تجزيه و تحليل انبار مغازه‌ها، ارزيابي واقعي املاك و …
برنامه‌ريزي، كنترل و جستجو( Planning, control, and search شامل اجراي موازي مسائل و كنترل رباتها.
هوش مصنوعي( Artificial intelligence شامل برخي سيستمهاي طبي و اجراي سيستمهاي خبره.
سيستمهاي قدرت( Power systems شامل برآورد وضعيت سيستم، رديابي سريع و دسته‌بندي رديابي، رديابي خطا و ترميم آن، پيش‌بيني و برآورد تخمين امنيت.
---------- Post added at 08:04 PM ---------- Previous post was at 07:59 PM ----------
--انواع يادگيري براي شبكه هاي عصبي:
1.يادگيري با ناظر
در يادگيري با ناظر به قانون ياد گيري مجموعه اي از زوجهاي داده ها به نام
داده هاي يادگيري (Pi,Ti)i={1 … l } مي دهند كه در آن Pi ورودي به شبكه و
Ti خروجي مطلوب شبكه براي ورودي Pi است. پس از اعمال ورودي Pi به شبكه
عصبي در خروجي شبكه ai با Ti مقايسه شده و سپس خطاي يادگيري محاسبه و از
آن در جهت تنظيم پارامترهاي شبكه استفاده مي شود به گونه اي كه اگر دفعه
بعد به شبكه همان ورودي Pi اعمال شود خروجي شبكه به Ti نزديكتر مي گردد با
توجه به اين نكته كه معلم سيستمي است كه بر محيط وقوف دارد ( مثلا مي داند
كه براي ورودي Pi خروجي مطلوب Ti است ).توجه داريم كه محيط براي شبكه عصبي
مجهول است . در لحظه k بردار ورودي Pi(k) با تابع توضيع احتمال معيني كه
براي شبكه عصبي نا معلوماست انتخاب و بطور همزمان به شبكه عصبي و معلم
اعمال مي شود . جواب مطلوب Ti(k) نيز توسط معلم به شبكه عصبي داده مي شود
. در حقيقت پاسخ مطلوب پاسخ بهينه اي است كه شبكه عصبي براي ورودي مفروض
بايد به آن برسد . پارامترهاي شبكه عصبي توسط دو سيگنال ورودي و خطا تنظيم
مي شود.به اين صورت كه پس از چند تكرار الگوريتم يادگيري كه عموما توسط
معادله تفاضلي بيان مي شودبه پارامترهايي در فضاي پارامترهاي شبكه همگرا
مي شوند كه براي آنها خطاي يادگيري بسيار كوچك است و عملا شبكه عصبي شبكه
عصبي معادل معلم مي شود . يا به عبارتي ديگر اطلاعات مربوط به محيط (نگاشت
بين TiوPi )كه براي معلم روشن است به شبكه عصبي منتقل مي شود و پس از اين
مرحله عملا مي توان بجاي معلم از شبكه عصبي استفاده كرد تا يادگيري تكميل
شود .
--2.يادگيري تشديدي:
يك اشكال يادگيري با ناظر اين است كه شبكه عصبي ممكن است بدون معلم نتواند
مواضع جديدي را كه توسط مجموعه داده هاي جديد تجربي پوشانده نشده است ياد
بگيرد . يادگيري از نوع تشديدي اين محدوديت را برطرف مي كند . اين نوع
يادگيري بطور on-line صورت مي گيرد در حالي كه يادگيري با ناظر را به دو
صورت on-line & off-line مي توان انجام داد. در حالت off-line مي توان
از يك سيستم محاسب با در اختيار داشتن داده هاي يادگيري استفاده كرد و
طراحي شبكه عصبي را به پايان رساند . پس از مرحله طراحي و يادگيري شبكه
عصبي به عنوان يك سيستم استاتيكي عمل مي كند . اما در يادگيري on-line
شبكه عصبي همراه با خود سيستم يادگير در حال انجام كار است و از اين رو
مثل يك سيستم ديناميكي عمل مي كند .
يادگيري از نوع تشديدي يك يادگيري on-line از يك نگاشت ورودي-خروجي است .
اين كار از طريق يك پروسه سعي و خطا به صورتي انجام مي پذيرد كه يك شاخص
اجرايي موسوم به سيگنال تشديد ماكزيمم شود و بنابر اين الگوريتم نوعي از
يادگيري با ناظر است كه در آن به جاي فراهم نمودن جواب واقعي ، به شبكه
عددي كه نشانگر ميزان عملكرد شبكه است ارايه مي شود. اين بدين معني است كه
اگر شبكه عصبي پارامترهايش را به گونه اي تغيير داد كه منجر به يك حالت
مساعد شد آنگاه تمايل سيستم يادگير جهت توليد آن عمل خاص تقويت يا تشديد
مي شود . در غير اين صورت تمايل شبكه عصبي جهت توليد آن عمل خاص تضعيف مي
شود . يادگيري تقويتي مثل يادگيري با ناظر نيست و اين الگوريتم بيشتر براي
سيستمهاي كنترلي كاربرد دارد .
--3. يادگيري بدون ناظر
در يادگيري بدون ناظر يا يادگيري خود سامانده پارامترهاي شبكه عصبي تنها
توسط پاسخ سيستم اصلاح و تنظيم مي شوند . به عبارتي تنها اطلاعات دريافتي
از محيط به شبكه را برداغرهاي ورودي تشكيل مي دهند. و در مقايسه با مورد
بالا (يادگيري با ناظر) بردار جواب مطلوب به شبكه اعمال نمي شود . به
عبارتي به شبكه عصبي هيچ نمونه اي از تابعي كه قرار است بياموزد داده نمي
شود . در عمل مي بينيم كه يادگيري با ناظر در مورد شبكه هايي كه از تعداد
زيادي لايه هاي نروني تشكيل شده باشند بسيار كند عمل مي كند و در اين گونه
موارد تلفيق يادگيري با ناظر و بدون ناظر پيشنهاد مي گردد .
2-4- زمينه‌اي در مورد perceptron
Perceptron هاي ساده
يك خانواده ساده از شبكه‌هاي عصبي مدل perceptron مي‌باشد. در يك
دسته‌بندي تك‌خروجي، تعداد n ورودي و يك خروجي دارد . با هر ورودي يك ضريب
وزني Wi و با هر خروجي يك مقدار آستانه q مرتبط است.
Perceptron به گونه زير عمل مي‌كند:
وروديهاي Perceptron يك بردار ورودي از n مقدار حقيقي است.
Perceptron مجموع وزنها را محاسبه مي‌كند a= ه Wi.Xi. اين مقدار با مقدار
آستانه q مقايسه مي‌شود. اگر اين مقدار از مقدار آستانه كوچكتر باشد خروجي
0 است و در غير اين صورت 1 است.
قدرت Perceptron
به وسيله تنظيم اعداد ورودي، وزن آنها و مقدار آستانه مي‌توان يك
Perceptron براي انجام نسبتا خوب محاسبات گوناگون طراحي كرد. براي مثال
توابع منطقي بولين مانند AND ، OR و NOT را مي‌توان به وسيله Perceptron
طراحي كرد و هر مدار منطقي ديگر را به وسيله گيتهاي AND و NOT يا AND و OR
طراحي كرد. دسته‌هاي زيادي از Perceptronها ممكن است خروجي‌هاي دسته‌هاي
ديگر را به عنوان ورودي خود درخواست كنند.
به عنوان مثالي ازPerceptron ها مي‌توان يك تشخيص دهنده قالب متن را نام
برد. حرفA درآرايه‌اي 5*5 به‌رمز درمي‌آيد(encode مي‌شود). اين متن(حرف)
به‌وسيله يك Perceptron با 25 ورودي تشخيص داده مي‌شود كه در آن وزنها
مقاديري برابر با مقادير عددي داخل آرايه را مي‌گيرند و مقدار آســتانه
برابر است با: e-25 =q كه در آن 0 < e < 1 .
خروجي Perceptron 1 است اگر و فقط اگر ورودي آن از 1 و 1- هايي باشد كه عينا در آرايه آمده است.
دنباله‌هاي Perceptron
يكي از خصوصيات جالب Perception اين است كه آنها مي‌توانند به وسيله
مثالهاي مثبت و منفي ( صحيح و اشتباه) براي انجام توابع دسته‌بندي شده
مخصوص بارها مرتب شوند.
حال به يك مثال ساده از Perceptron با دو وروديX1 وX2 ، كه تشخيص ميدهد
كه كدام‌يك از دو كلاس، عناصر متعلق به خودش را دارد. ما فرض مي‌كنيم كه
اين Perceptron دو طرح از كاركترهاي چاپ شده از يك متن را بررسي كند،
خروجي 1 است اگر و فقط اگر كاراكتر رقم 8 باشد. فرض كنيم كه X1 بيانگر
تعداد حفره‌هاي كاراكتر است و X2 درجه راستي سمت چپ كاراكتر را نشان
ميدهد. ما با 4 ورودي .
اگر ما perceptron را در اول كار با وزنهايي برابر 0 و مقدار آستانه را
برابر 10 مقداردهي كنيم يك رده‌بندي از همه مثالهاي منفي انجام داده‌ايم.
با قرار دادن رده‌بندي‌هاي نادرست از 8 ، مقادير ورودي از مثال 8 با بعضي
فاكتورها مثل d جمع مي‌شوند و توليدات جديد با وزنهاي متناظر با ايجاد
مي‌شوند.
فرض كنيم 1=d پس وزن ورودي‌ها از 0 به 1 و 2 رشد پيدا مي‌كند. حال در
اينجا 5 = a به دست مي‌آيد كه هنوز از مقدار آستانه 10 كوچكتر است. مثال
هنوز به رده‌بندي صحيحي نرسيده است واين قدم دنباله بايد تكرار شود. بعد
از دو قدم وزنها برابر 2 و 4 مي‌شوند كه مقدار 10 = a را نتيجه ميدهد كه
برابر مقدار آستانه است و مثال مثبت از 8 به طور صحيح دسته‌بندي شده است.
از آنجا كه ضرايب وزني تغيير كرده بودند لازم است كه در همه مثالها
رده‌بندي‌ها بازنشان ( Reset ) شوند. اين را مي‌توان به سادگي ديد كه مثال
B رده‌بندي نادرستي است زيرا با وزنهاي 2 و 4 داريم 24 = a ولي اين حرف
مورد نظر ما نيست، چون اين مرحله را پيش رفته‌ايم لازم است كه d.1 از W1 و
d.2 از W2 كم شود تا رده‌بندي نادرستي از B ثابت شود. به هر حال يك
رده‌بندي از 8 را دوباره بيرون ميدهد.
بعدها موقع بروز خطا ما وزنها را براي درست كردن خطاهاي رده‌بندي اصلاح
مي‌كنيم. اگر مثالها داراي خاصيت صحيحي باشند وزنها در مجموعهاي از
مقاديري كه به درستي روي هر ورودي كار مي‌كنند قرار مي‌گيرند.
قضيه بنيادي دنباله‌ها:
يك خصوصيت قابل توجه perceptron اين است كه آنها مي‌توانند دنباله‌اي از رده‌بندي صحيح مثالهاي مثبت ومنفي باشند.
فرض كنيم: X = X+ ب X-
X+ : مجموعهاي از مثالهاي مثبت
X- : مجموعهاي از مثالهاي منفي
گوييم كه رشته بي‌كران S x= X1 , X2 , …, Xk ,… يك رشته متوالي(ترتيبي)
براي X است در صورتي كه هر Xi يك مثال در X است و هر عنصر از X اغلب به
طور نامحدود در Sx رخ ميدهد(نمايان مي‌شود).
فرض كنيم Wk ضريب وزني در سطح k دنباله باشد. وزن اوليه ميتواند به صورت
قراردادي باشد (براي مثال W1=0 ). حال رشته استاندارد حاصله، وزنها را به
صورت زير ارتقا ميدهد:
بسته به استرادژي مورد نظر ممكن است مقادير C k همگي يكسان باشند يا ممكن است با k تغيير كنند.
قضيه 1)
باشد و يك بردار حل وزنها براي X وجود داشته باشد, در اين صورت رويه رشته
استاندارد بايد بعد از يك تعداد فرض كنيم يك مجموعه از رشته نمونه X و هر
رشته ترتيبي براي آن داريم, اگر Ck يك ثابت مثبت مراحل مشخص يك راه‌حل
پيدا كند به طوري كه اگر براي بعضي k0 ها داشته باشيم:
WK0 = WK0+1 = WK0+2 = …
كه WK0 يك راه‌حل براي X است.
بنابراين ما مي‌توانيم با استفاده از شبكه‌هاي عصبي هر چه بيشتر به
شبيه‌سازي انسان توسط كامپيوترها نزديك شويم به منظور واگذاري كارهاي
تكراري, وقت‌گير و مسائلي كه با توجه به پيشرفت بشري ديگر درخور بشر نيست.
--------------------------------------------------------------------------------