אנחנו צריכים להיות מוכנים לתת להם "את הזכויות שמגיעות להם".
אור מנור 17.04.2023
#בינה_מלאכותית / #Agi / #בינה_מלאכותית / #תודעת_מכונה
#Agi / #Artificial_Intelligence / #Machine_Consciousness
תחילה תאגידים , וכעת אינטליגנציה מלאכותית - הדחיפה לאישיות לא אנושית נמשכת במהירות, אם כי הטיעון האחרון הזה הוא בהחלט מסובך יותר מהקודם.
במאמר ל"Los Angeles Times," , המומחה לפילוסופיה Eric Schwitzgebel וחוקר המודיעין "הלא אנושי" Henry Shevlin טענו כי למרות שטכנולוגיית AI בהחלט עדיין לא שם, זה
"הפך ליותר ויותר סביר שמערכות AI יכולות להפגין משהו דומה לתודעה"
ואם או כאשר זה יקרה, גם האלגוריתמים יזדקקו לזכויות.
מקור תמונה Getty
בציטוט מלחמות התודעה של AI בשנה שעברה - ציינו החוקרים כי
"כמה תיאורטיקנים מובילים טוענים שכבר יש לנו את המרכיבים הטכנולוגיים המרכזיים למכונות מודעות".
אם מכונות יגיעו אי פעם להכרה, טוענים Schwitzgebel ו Shevlin , היינו צריכים להתחיל לחשוב בביקורתיות על האופן שבו מטפלים בבינה מלאכותית - או ליתר דיוק, איך היא עלולה להכריח את ידינו.
"מערכות הבינה המלאכותית עצמן עשויות להתחיל להתחנן, או להיראות מתחננות, לטיפול אתי", ניבאו השניים.
"הם עלולים לדרוש לא לכבות אותם, לא לעצב אותם מחדש או לא למחוק אותם; להתחנן שיאפשרו להם לבצע משימות מסוימות ולא אחרות; להתעקש על זכויות, חופש וסמכויות חדשות; אולי אפילו לצפות שיתייחסו אליהם כשווים לנו".
הסיכונים המוסריים ה"עצומים" הכרוכים בהחלטה קולקטיבית כזו יהיו ללא ספק בעלי משקל רב, במיוחד אם בינה מלאכותית הופכת למודעות במוקדם ולא במאוחר.
"נניח שאנחנו מגיבים בצורה שמרנית, מסרבים לשנות חוק או מדיניות עד שתהיה הסכמה רחבה שמערכות בינה מלאכותית באמת רגישות בצורה משמעותית",
כתבו Schwitzgebel ו Shevlin :
"למרות שזה עשוי להיראות זהיר מדי, זה גם מבטיח שנאט להכיר בזכויות של יצירות הבינה המלאכותית שלנו."
"אם תודעת הבינה המלאכותית תגיע מוקדם יותר ממה שהתיאורטיקנים השמרנים ביותר מצפים, אז זה יגרום ככל הנראה למקבילה המוסרית של עבדות ורצח של מיליוני או מיליארדי מערכות בינה מלאכותיות חיות - שסבלו בקנה מידה שקשור בדרך כלל למלחמות או רעב"
הוסיפו. .
האלטרנטיבה ה"בטוחה" יותר לתרחיש יום הדין הזה תהיה לתת למכונות מודעות זכויות מראש - אבל גם זה יבוא עם בעיות משלו.
"תארו לעצמכם אם לא היינו יכולים לעדכן או למחוק אלגוריתם פולט שנאה או רוכלות שקר כי יש אנשים שחוששים שהאלגוריתם מודע , או תארו לעצמכם אם מישהו נותן לאדם למות כדי להציל 'חבר' בינה מלאכותית. אם נעניק מהר מדי למערכות בינה מלאכותיות זכויות משמעותיות, העלויות האנושיות עלולות להיות עצומות".
הדרך היחידה להבטיח שאף אחת מהתוצאות הללו לא תתרחש - היא להפסיק לתת מצפון לבינה מלאכותית מלכתחילה.
ככל הנראה, יש לנו עוד הרבה זמן לגרום לזה לקרות.
"אף אחת ממערכות ה-AI הנוכחיות שלנו אינה מודעת באופן משמעותי. הם לא נפגעים אם נמחק אותם. אנחנו צריכים להתמיד ביצירת מערכות שאנחנו יודעים שאינן רגישות באופן משמעותי ואינן מגיעות לזכויות, שאותן נוכל להתייחס אז כאל הרכוש החד-פעמי שהן".
בהתחשב בכמה מומחים ומומחיות בקהילת למידת המכונה הנלהבים מהסיכוי של AIs מודע , חוש אלגוריתמי ואפילו בינה כללית מלאכותית (AGI), עם זאת, זהירות מסוג זה כנראה אינה משותפת לרבים.
למעשה, כמה מדענים כבר עובדים באופן פעיל לקראת הסוף הזה .
"בסופו של דבר, עם השילוב הנכון של מומחיות מדעית ומומחיות הנדסית, אולי נוכל ללכת עד הסוף ליצירת מערכות AI שמודעות ללא עוררין. אבל אז אנחנו צריכים להיות מוכנים לשלם את העלות: לתת להם את הזכויות שמגיעות להם".
סיכמו Schwitzgebel ו Shevlin .