@DarioAmodei · Северная Америка
Дарио Амодей отслеживается Storyz World для освещения бизнеса и гражданского общества, связанных со страной Соединенные Штаты, в разделе о Северной Америке.
2/2 Во-вторых, о том, как мы говорим об ИИ. Я не согласен с тем, что мои высказывания были непропорционально негативными. На самом деле в них примерно поровну говорится о рисках и преимуществах: я написал по одному большому эссе о каждом из этих аспектов, и даже в интервью, где обсуждаю риски, стараюсь часто упоминать невероятные преимущества, а также предлагать возможные решения проблем (короткие фрагменты моих интервью, которые попадают в социальные сети, как правило, непропорционально негативны, поскольку именно это приносит клики). На самом деле я написал Machines of Loving Grace, потому что не чувствовал, что индустрия ИИ рисует достаточно вдохновляющую картину того, как технологии могут радикально изменить мир к лучшему. Основная часть эссе посвящена опровержению скептицизма относительно потенциала ИИ в здравоохранении и биологии и объяснению того, почему я считаю, что в течение примерно 5–10 лет действительно станет возможно вылечить большинство человеческих болезней, как бы безумно это ни звучало для обычных людей и, откровенно говоря, для биологов тоже (когда-то я сам был биологом!). И если вы прочитаете моё последнее эссе (Policy on the AI Exponential), то увидите, что в нём я обсуждаю конкретные предложения по оптимизации процесса FDA, чтобы поток лекарств, разработка которых ускорена ИИ, не замедлялся из-за регуляторных процедур. Я остро ощущаю здесь срочность: я потерял отца из-за гепатита C всего за несколько лет до разработки противовирусных препаратов прямого действия (sofosbuvir), которые излечивают 95% пациентов и, вероятно, вылечили бы его. Я согласен, что общественность негативно относится к ИИ (и это большая проблема), но не думаю, что главная причина — я или любой другой руководитель в сфере ИИ, предупреждающий о рисках ИИ. Я считаю, что в основе этого лежит кризис доверия. Обычные люди не доверяют компаниям, правительствам или технологической отрасли и постоянно подозревают, что мы придумываем новый способ их обмануть. Причины этого уходят на десятилетия назад, а ИИ — лишь самое последнее проявление этой проблемы. Я не думаю, что яркая маркетинговая кампания с позитивным настроем (которую некоторые предлагали провести Anthropic) поможет вернуть это доверие — на данном этапе утверждение, что ИИ вылечит рак, скорее клише, чем вдохновляющая мысль, и большинство людей считает его обманчивым. Поможет только реальное лечение рака. Я считаю, что самая точная критика компаний, занимающихся ИИ, включая Anthropic, с большим отрывом заключается в том, что мы ещё не выполнили свои громкие обещания принести пользу миру. Это полностью наша ответственность, и, по-моему, именно такую критику вам и следует высказывать, а не все эти рассуждения о сообщениях и маркетинге. Тем не менее мы делаем всё возможное, чтобы это исправить: Anthropic очень быстро наращивает усилия в области биологии и медицины, и мы надеемся получить невероятные результаты в ближайшие годы и увидеть первые проблески уже в ближайшие месяцы. Когда мы действительно добьёмся чего-то настоящего, об этом услышит весь мир, максимально громко — даю вам слово. Но до тех пор я не хочу давать пустых обещаний и тем временем считаю своим долгом честно говорить о вполне реальных рисках ИИ и о том, как с ними справляться. Честность — правильный выбор сама по себе, и с точки зрения общественного доверия и авторитета она не хуже, а возможно, даже лучше подхода, который игнорирует риски, которые люди инстинктивно считают реальными, или отвлекает от них внимание.
Не удалось выполнить действие. Проверьте подключение и попробуйте ещё раз.
