زینب توفکچی
@zeynep · آمریکای شمالی
زینب توفکچی برای پوشش روزنامهنگاری و رویدادهای جاری مرتبط با ایالات متحده در فصل آمریکای شمالی توسط Storyz World دنبال میشود.
دومین اتهام درباره گنجانده شدن کار ریاضیِ پیشین در یک مدل هوش مصنوعی. توجه داشته باشید که حتی با شفافیت بیشتر و رفتار بهتر، OpenAI ممکن است همچنان نتواند «این احتمال را رد کند که دادههای بیهویتشده حاصل از استفاده آنها از محصولات ما به بهبود مدلهای ما کمک کرده باشد»، در کنار مسیرهای دیگر.
ترجمهشده از انگلیسیاشتباه واقعی این است که برای گزارش کردن یک ادعا، بدون درنظرگرفتن زمینه، شتابزده عمل کنیم. علاوه بر این، اگر راهحل به رسمیت شناخته شود (چرا که نه؟)، آیا این همان چیزی را نمایندگی میکند که قرار بود جایزهٔ هزاره به آن انگیزه بدهد؟ هدف از مدال ماراتن این نیست که آن را به کسانی بدهند که میتوانند با اسکیت به خط پایان برسند. تغییرات در روشها/فرایندها امور فرعی نیستند. مسئلهٔ وجود و همواری ناویه–ستوکس مسئلهای بسیار جالب است، اما پرسشی عملی نیست. فرایند/روش برای معنای واقعی این پیشرفت نقشی کلیدی دارد. +
ترجمهشده از انگلیسیمعیارهای رایج هوش مصنوعی ما چندان مفید نیستند. ما از دستاوردهایی مبهوت میشویم که لزوماً پیامدهای ضمنیای را که مردم انتظار دارند در پی نخواهند داشت. این کمی شبیه این است که تظاهرات بزرگ و گسترده دیگر مانند دوران پیش از اینترنت قدرت سرنگونکردن ندارند. (بله، کتاب من است).
ترجمهشده از انگلیسیهوش مصنوعی در علم و پژوهش احتمالاً از جمله حوزههایی خواهد بود که انتظارات عمومی را ناامید میکند. بله، اعلامیهٔ ناویه–ستوکس را دیدم و بله، فارغ از مناقشه بر سر اعتبار، به این باور دارم. ممکن است علم بهطور کلی حتی بهدلیل هوش مصنوعی با *بادهای مخالف* روبهرو شود. چند تلاش چشمگیر این واقعیت را تغییر نمیدهد.
ترجمهشده از انگلیسیفکر میکنم هوش مصنوعی فناوری تحولآفرینی با پیامدهای بسیار مهم است. انتظار تأثیرات زیادی را دارم! فقط فکر میکنم بیشتر معیارهای فعلی چندان مفید نیستند و پیشبینیهای اجتماعی آنطور که بسیاری از مردم ادعا میکردند، مطابق با معیارهای هوش مصنوعی محقق نمیشوند!
ترجمهشده از انگلیسیاصلاً مسئله این نیست که «نقشه، قلمرو نیست»؛ مسئله این است که معیارهای فعلی هوش مصنوعی حتی نقشه هم نیستند! و اگر حالوهوای پادکست را کنار بگذاریم و بهصورت تجربی نگاه کنیم، روشن است که نظریههای رایج درباره اینکه قرار بود آن معیارها نماینده چه چیزی در جامعه باشند، تا اینجا اشتباهاند.
ترجمهشده از انگلیسیهیچیک از اینها مدرک مستقیمی برای پیامدهای اجتماعی خاص نیست، هرچند پولی که هزینه شده آشکارا پیامدهای مهمی دارد. اما همه اینها میتواند رخ دهد، حتی اگر هوش مصنوعی تأثیر چندانی بر اشتغال نداشته باشد و حتی اگر علم را کند کند و پیامدهای جدید دیگری داشته باشد.
ترجمهشده از انگلیسیفکر نمیکنم معیارهای هوش مصنوعی نمایندههای جامعه باشند. آنها *ورودیهای* یک سیستم پیچیدهاند. به نظریهای منسجم دربارهٔ *چگونگی* نیاز داریم. برای مثال، فکر میکنم علم ممکن است *کندتر شود*. معیارها در حال افزایشاند، اما علم بهعنوان یک فرایند ممکن است صرفنظر از حل مسائل اردوش، بهواسطه هوش مصنوعی مختل شود.
ترجمهشده از انگلیسیمعیارهای هوش مصنوعی بهتنهایی دلالتی بر پیامدها یا آثار گستردهتر ندارند. اصلاً. علاوه بر این، فکر میکنم بیشتر معیارهای ما برای اندیشیدن درباره آثار اجتماعی کاملاً بیفایدهاند و این موضوع از نظر تجربی همین حالا هم آشکار است، اما حتی اگر مفید باشند، بهتنهایی کافی نیستند!
ترجمهشده از انگلیسیهاه. نکته جالبی در این مورد، حساسیت بالای مدلهای زبانی بزرگ به بسامد ورودیهاست (که دلیل کلیدی دیگری است برای اینکه آنها خارج از حوزههای محدود، در مقیاس بزرگ چندان از نظر اقتصادی قابل استفاده نیستند): خلأها بهمثابه شکست.
ترجمهشده از انگلیسیجهتگیری مدل هوش مصنوعی به سمت متقاعدسازی، آشکارا کاربرد اقتصادی آن را در مقیاس گسترده بهشدت محدود میکند. به همین دلیل، همه نمونههای منفرد و چشمگیر چندان مرتبط نیستند. برای مثال، اخیراً از یک مدل پولی خواستم خلاصهای از آنچه درباره پیامدهای سناریویی میدانیم ارائه کند که در آن مسیر X پیموده نمیشود. بیشتر مطالعات دنبال میکنند که اگر مسیر X پیموده شود چه اتفاقی میافتد. طبق معمول، منبع و پیوند و غیره خواستم. مدل تغییراتی بهسختی قابل تشخیص در عنوانها، چکیدهها و موارد مشابهِ مطالعاتی که فهرست کرده بود ایجاد کرد تا عبارت «نه X» را به دامنه مطالعه اضافه کند. کارش خوب و ظریف بود. یک لحظه غفلت کافی است تا آن را نبینید. مجبور بودید روی تکتک پیوندها کلیک کنید و بخش قابلتوجهی از مطالعه را بخوانید. این کار هنوز کمی سریعتر از شروع از صفر بود، اما اگر تخصص کمتری داشته باشید، این دام از شروع از صفر خطرناکتر است. علاوه بر این، بردارهای خطای دیگری ایجاد میکند. حتی پیشرفتهترین مدلها هم گاهی نسخههایی از این کار را انجام میدهند و تشخیص این جعلهای ظریفِ متقاعدکننده بدون مقدار زیادی کار اضافی دشوار است؛ کاری که هم تخصص میخواهد و هم زمان. درست است که گاهی هم این کار را نمیکنند، اما بدون آن تخصص و تلاش، موفق باشید که این موارد را از هم تشخیص دهید. نرمافزار باید کار کند، نه اینکه متقاعد کند؛ بنابراین جدا از جنبه قابلیت راستیآزمایی، این بازی متفاوتی است.
ترجمهشده از انگلیسی