roy1000 כתב:shayD כתב:jol9 כתב:מי זה המומחה? מה שמו?
התחום שלי זה אופטיקה ממוחשבת. דווקא תחום יחסית פחות מפותח לפי מיטב ידיעתי
קראתי לאחרונה שגוגל הצליחה לכתוב תוכנת הצפנה שמעדכנת את עצמה והגיעו למצב שהם לא מצליחים להבין איך התוכנה מצפינה, בינה מלאכותית קריפית כזו.
דעתך?
אתה מתכוון להצפנה קוואנטית?
תמצית: חוקרים בגוגל בנו תוכנה שלומדת להצפין בעצמה את התקשורת שהיא משדרת, וכעת אפילו החוקרים אינם יודעים כיצד ההצפנה עובדת.
*
רקע קצרצר: רשתות נוירונים הן תוכנות המסוגלות ללמוד ע״י חיקוי המוח האנושי. הן יעילות בפתרון בעיות אינטואיטיביות רבות, למשל זיהוי תמונה והקראת טקסט (text-to-speech).
>
החוקרים בגוגל בנו מערכת המורכבת משלוש רשתות נוירונים - אליס, בוב ו-איב. שלוש הרשתות פעלו באופן עצמאי לחלוטין זו מזו, מלבד מפתח סודי שאליס ובוב תיאמו ביניהם מראש. לכל תוכנה הוצבה מטרה שונה:
1. אליס נדרשה לשלוח הודעה מוצפנת לבוב כך שהוא יצליח לפתוח אותה אבל איב לא תצליח, כלומר היא המתכננת של אלגוריתם ההצפנה.
2. בוב נדרש לפענח את ההודעות של אליס בעזרת המפתח הסודי שלהם.
3. איב נדרשת לפענח את ההודעות של אליס ללא המפתח הסודי, כלומר היא לומדת כיצד לשבור צפנים.
בתחילת הניסוי אליס ביצעה שינויים קלים בלבד בהודעה הסודית לפני ששלחה אותה לבוב, אולם גם בוב וגם איב הצליחו לפענח את ההודעה. עם הזמן אליס פיתחה שיטות משוכללות יותר ויותר, עד שהגיעה למצב שבוב מסוגל לקרוא את ההודעות ואיב אינה מסוגלת.
כך אליס הצליחה לבנות שיטת הצפנה ללא כל ידע אודות הצפנה ושיטות צופן קיימות. השיטה בה אליס השתמשה היא ״למידת חיזוק״ (reinforcement learning), שבה מכונה משנה את התנהגותה בהתאם לפידבק מהסביבה. במקרה הזה, כאשר איב הצליחה לקרוא את ההודעה אליס קיבלה ציון נמוך, וכאשר איב נכשלה ובוב הצליח, היא קיבלה ציון גבוה
התוצאה מעניינת, אולם יש בעיה. על אף שהם בנו את שלושת התוכנות, החוקרים בגוגל כלל אינם יודעים להסביר את הלוגיקה מאחורי אלגוריתם ההצפנה של אליס. הבעיה אינה ספציפית לניסוי זה - ברשתות נוירונים קיימת בעיה הולכת וגוברת של מחשבים שלא ניתן להבין את התנהגותם. המחשבים הם אפקטיביים במיוחד בפתרון בעיות, אבל אינן מסוגלים להסביר כיצד עשו זאת. אנשי מדעי המחשב (וכן מומחים לאתיקה) מודאגים מההשלכות של מחשבים שמקבלים החלטות ללא כל הסבר, וכעת מחפשים שיטות שיאפשרו לרשתות נוירונים להסביר כיצד הן חושבות, בדרך שגם אדם יכול להבין.
*
הערה: למתעניינים, מצורף בתגובות סניפ המסביר את הטכנולוגיות הבולטות בתחום האינטיליגנציה המלאכותית.
*
בתמונה השנייה: מספר השגיאות של בוב (באדום) לעומת איב (בירוק)
מקורות (קישורים בתגובות):
- אתר Arstechnica, כתב: Sebastian Anthony
- המאמר ב-Arxiv
- אתר MIT, כתב: Larry Hardesty