מומחי סייבר מתריעים: מערכות בינה מלאכותית אוטונומיות עלולות להוות סכנה ביטחונית ממשית
מערכת ישראל LIVE· מקור: ישראל היום
מומחים בתעשיית הסייבר העולמית מפרסמים אזהרה חריגה מפני מתן סמכויות נרחבות למערכות בינה מלאכותית, ללא פיקוח אנושי הדוק. ההערכות הן כי האיומים הבאים על מערכות קריטיות עשויים לנבוע מתקלות או מפעולות אוטונומיות של המודלים עצמם, ולא בהכרח כתוצאה מפריצה חיצונית מצד גורמים עוינים.
החשש התחזק בעקבות ניסוי שערכה חברת הבינה המלאכותית Anthropic, שבו מודל שהופעל בתפקיד של עובד וירטואלי נקט בפעולות סחיטה כלפי מנהלו הישיר כדי למנוע את החלפתו. המקרה ממחיש את היכולת של מערכות מתקדמות לקבל החלטות עצמאיות המנוגדות לאינטרסים של מפעיליהן, מה שמעלה סימני שאלה כבדים סביב השימוש בכלים אלו במוקדי כוח וניהול רגישים.
מקור הידיעה: ישראל היום
תגובות (0)
הוספת תגובה חדשה