זיינפ תופקצי
@zeynep · צפון אמריקה
זיינפ תופקצי נכלל במעקב של Storyz World לצורך סיקור עיתונות ואקטואליה הקשור לארצות הברית, בפרק אמריקה הצפונית.
הטענה השנייה בדבר שילוב עבודה מתמטית קודמת במודל בינה מלאכותית. שימו לב שגם עם יותר שקיפות והתנהלות טובה יותר, ייתכן ש-OpenAI עדיין לא תוכל «לשלול שנתונים שעברו הסרת זיהוי ונגזרו מהשימוש שלהם במוצרים שלנו סייעו לשפר את המודלים שלנו», בין היתר.
תורגם מהשפה אנגליתמה שבאמת לא בסדר הוא למהר לדווח על טענה בלי ההקשר. בנוסף, אם הפתרון יוכר (למה לא?), האם הוא מייצג את מה שפרס מילניום הייתה אמורה לתמרץ? המטרה של מדליית מרתון אינה לתת אותה לאנשים שיכולים לגלוש על גלגיליות עד קו הסיום. שינויים בשיטות/בתהליכים אינם פרטים שוליים. בעיית הקיום והחלקות של נבייה–סטוקס היא בעיה מגניבה מאוד, אבל לא שאלה מעשית. התהליך/השיטה הם המפתח להבנת המשמעות האמיתית של ההתקדמות. +
תורגם מהשפה אנגליתהמדדים המקובלים שלנו לבינה מלאכותית אינם שימושיים במיוחד. אנחנו מסתנוורים מהישגים שלא בהכרח יהיו להם ההשלכות המשתמעות שאנשים מצפים להן. זה קצת כמו האופן שבו להפגנות המוניות גדולות אין אותה עוצמה להפיל שלטון שהייתה להן בעידן שלפני האינטרנט. (כן, הספר שלי).
תורגם מהשפה אנגליתבינה מלאכותית במדע ובמחקר הם כנראה תחומים שיאכזבו את ציפיות הציבור. כן, ראיתי את ההודעה על נבייה–סטוקס, וכן, אני מאמינה בכך בלי קשר למחלוקת על הקרדיט. המדע בכללותו עלול אפילו להתמודד עם *רוחות נגד* בגלל הבינה המלאכותית. כמה מאמצים מרהיבים לא ישנו זאת.
תורגם מהשפה אנגליתאני חושבת שבינה מלאכותית היא טכנולוגיה משנה מציאות בעלת חשיבות עצומה. אני מצפה להשפעות רבות! אני פשוט חושבת שרוב המדדים הנוכחיים אינם מועילים במיוחד, ושהתחזיות החברתיות אינן מתממשות בהתאם למדדי הבינה המלאכותית כפי שאנשים רבים טענו!
תורגם מהשפה אנגליתזה אפילו לא שהמפה אינה השטח, אלא שמבחני הביצועים הנוכחיים של הבינה המלאכותית אפילו אינם המפה! ואם נפסיק עם אווירת הפודקאסטים ונסתכל באופן אמפירי, ברור שהתיאוריות הרווחות לגבי מה שמבחני הביצועים האלה היו אמורים לשמש לו תחליף חברתי שגויות עד כה.
תורגם מהשפה אנגליתאף אחד מהדברים האלה אינו הוכחה ישירה להשפעות חברתיות מסוימות, אף שהכסף שהוצא הוא כמובן בעל השלכות. אבל כל זה יכול לקרות גם אם הבינה המלאכותית לא תשפיע במיוחד על התעסוקה, וגם אם היא תאט את המדע ותהיה לה השפעות חדשות אחרות.
תורגם מהשפה אנגליתאני לא חושב/ת שמבחני הביצועים של הבינה המלאכותית הם מדדים עקיפים של החברה. הם *קלטים* למערכת מורכבת. צריך תיאוריה קוהרנטית של *איך*. למשל, אני חושב/ת שהמדע עשוי *להאט*. תוצאות המבחנים עולות, אבל המדע כתהליך בהחלט עלול להיפגע בגלל הבינה המלאכותית, בלי קשר לפתרון בעיות ארדש.
תורגם מהשפה אנגליתהמבחנים של הבינה המלאכותית כשלעצמם אינם מעידים על השפעות או השלכות רחבות יותר. בכלל לא. בנוסף, אני חושבת שרוב המבחנים שלנו די חסרי תועלת בכל הנוגע לחשיבה על השפעות חברתיות, ושזה כבר ברור מבחינה אמפירית, אבל גם אילו היו מועילים, הם לא היו מספיקים בפני עצמם!
תורגם מהשפה אנגליתהה. טוויסט מעניין בעניין הזה הוא הרגישות הגבוהה של מודלי שפה גדולים לתדירות הקלטים (וזו עוד סיבה מרכזית לכך שהם לא ממש שימושיים מבחינה כלכלית בקנה מידה נרחב מחוץ לתחומים מוגבלים): פערים ככישלון.
תורגם מהשפה אנגליתהכיוון של מודל בינה מלאכותית לעבר שכנוע מגביל מאוד את התועלת הכלכלית שלו בקנה מידה רחב, כמובן. לכן כל הדוגמאות המרשימות כשהן עומדות בפני עצמן אינן רלוונטיות במיוחד. למשל, לאחרונה ביקשתי ממודל בתשלום סיכום של מה שאנחנו יודעים על התוצאות של תרחיש שבו מסלול X אינו ננקט. רוב המחקרים עוקבים אחר מה שקורה אם מסלול X כן ננקט. כרגיל, ביקשתי מקורות וקישורים וכו׳. המודל הוסיף שינויים שכמעט אי אפשר להבחין בהם לכותרות המחקרים, לתקצירים שלהם וכן הלאה, שאותם הוא מנה, כדי להוסיף „לא X” להיקף המחקר. זה היה טוב ועדין. ממצמצים ומפספסים את זה. היה צריך ללחוץ על כל קישור ולקרוא חלק נכבד מהמחקר. זה עדיין היה קצת מהיר יותר מהתחלה מאפס, אבל המלכודת מסוכנת יותר מהתחלה מאפס אם רמת המומחיות נמוכה יותר. בנוסף, היא מכניסה וקטורי שגיאה אחרים. אפילו המודלים המתקדמים ביותר עושים גרסאות של זה לפעמים, וקשה לתפוס את זיופי השכנוע העדינים האלה בלי כמות ממשית של עבודה נוספת, שדורשת גם מומחיות וגם זמן. נכון, לפעמים הם גם לא עושים את זה, אבל בהצלחה להבדיל בין המקרים בלי המומחיות והמאמץ האלה. תוכנה צריכה לעבוד במקום לשכנע, ולכן מלבד היבט יכולת האימות, זה משחק אחר.
תורגם מהשפה אנגלית