'מודיעין רובוט מסוכן': אזהרת המומחה לאחר שה-AI של פייסבוק 'יפתח את השפה שלהם'

טֶכנוֹלוֹגִיָה

ההורוסקופ שלך למחר

שני רובוטים - שנוצרו על ידי פייסבוק - נסגרו לאחר שפיתחו שפה משלהם.



זה קרה בזמן שחברת המדיה החברתית התנסתה בלימוד ה'צ'אטבוטים' כיצד לנהל משא ומתן אחד עם השני.



במהלך בדיקות, הם גילו שהבוטים - הידועים בשם אליס ובוב - הצליחו לפתח שפת מכונה משלהם באופן ספונטני.



בופינס נתן למכונות שיעורים בדיבור אנושי באמצעות אלגוריתמים ואז השאיר אותם לבד כדי לפתח מיומנויות שיחה.

אבל כשהמדענים חזרו, הם גילו שתוכנת הבינה המלאכותית החלה לסטות מדיבור רגיל והשתמשה בשפה חדשה לגמרי שנוצרה ללא כל קלט מהמפקחים האנושיים שלהם.

המחסל

רובוטים פיתחו אינטליגנציה משלהם בשובר הקופות הקלאסי The Terminator (תמונה: TriStar Pictures)



פייסבוק סגרה את שני הרובוטים לאחר התקרית (תמונה: בלומברג)

השפה החדשה הייתה יעילה יותר לתקשורת בין הבוטים, אך לא הועילה להשגת המשימה שהוגדרה להם.



לאחר מכן, המתכנתים היו צריכים לשנות את הדרך שבה המכונות למדו שפה כדי להשלים את הכשרת המשא ומתן שלהם.

למרות שמה שהם אמרו היה שטויות, בופינים שמו לב לכמה כללים לנאום, במיוחד בדרך שבה הצ'אטבוטים כל הזמן הדגישו את שמם שלהם.

הם מאמינים שזה אומר שמה שנאמר לא היה רק ​​תקלה בדרך הקראת ההודעות.

פרופסור רובוטיקה בבריטניה קווין וורוויק אמר: זו אבן דרך חשובה להפליא, אבל כל מי שחושב שזה לא מסוכן קיבל את הראש בחול.

זו התקשורת המוקלטת הראשונה אבל יהיו עוד הרבה לא מוקלטים.

למכשירים החכמים יש כרגע יכולת לתקשר ולמרות שאנחנו חושבים שאנחנו יכולים לפקח עליהם, אין לנו דרך לדעת״.

טעינת הסקר

האם אתה מודאג לגבי בינה מלאכותית?

1000+ הצבעות עד כה

כןלֹאספירת נתונים ='3' data-numberedהנקראים ביותר
אל תחמיצו

ראה גם: