В начале этого года 116 светил от мира технологий подписали открытое письмо с призывом к ООН запретить «смертоносные автономные оружейные системы». Они считают, что подобные могут привести к вооруженным конфликтам невиданных масштабов. Independent отметил, что «впервые эксперты по искусственному интеллекту и робототехнические компании приняли совместное решение по этому вопросу».
Но не все наблюдатели обеспокоены настолько. Эндрю Ын, до недавних пор работавший главным ученым в Baidu, пришел к выводу, что беспокоиться о роботах-убийцах — это как беспокоиться о перенаселенности на Марсе, и у нас будет достаточно времени, чтобы это осознать.
В первые годы 21 века немногие темы вызывали больше интереса или дебатов энергичнее, чем искусственный интеллект, начиная даже с самого понимания термина. В этом марте один из наблюдателей заметил, что «существует примерно столько же определений ИИ, сколько и ученых, разрабатывающих эту технологию». Робби Уайтинг, основатель консалтинговой компании Junior, утверждает, что «ИИ — это не просто громкое словечко — он изменит мир».
Хотя преувеличения действительно имеют место, ИИ уже перестраивает целые сферы деятельности, например, транспорт, финансы и здравоохранение. Главный технический директор Facebook полагает, что ИИ «может решать проблемы, масштабы которых охватывают всю планету». Илон Маск, между тем, утверждает, что «ИИ представляет фундаментальный риск для существования человеческой цивилизации». Большинство технологий не являются ни полезными, ни вредоносными — важно лишь то, кто их использует и почему.
Мало кто не согласен с тем, что ИИ развивается гораздо быстрее, чем мы пытаемся понять его сложную природу, многочисленные аспекты и далеко идущие последствия для национальной безопасности. В недавнем докладе Грегори Аллена и Таниэля Чана, аспирантов Гарвардского университета, есть призыв к правительству создать нечто вроде корпорации RAND для ИИ.
Исследователи RAND, в свою очередь, подписываются под словами гарвардской команды.
Они предлагают рассмотреть четыре области, в которых влияние ИИ может быть значительным, но неопределенным.
Рабочие места
Кай Фу Ли, председатель SinovationVentures, считает, что ИИ «направлен на крупномасштабное сокращение рабочих мест», при этом концентрируя богатства в руках компаний, которые развивают либо принимают ИИ. Другие считают, что подобные страхи присутствовали при появлении всех меняющих мир технологий вплоть до печатного станка в 15 веке.
Economist убеждает читателей в том, что «ИИ создает спрос на работу», и растущее число людей во всем мире «предоставляет цифровые услуги в Интернете». Какие компании и страны будут процветать в эпоху ИИ? Какие сегменты исчезнут, изменятся, будут созданы? Как изменится природа работы?
Военное дело
Сторонник боевых беспилотников утверждают, что такое оружие может поражать цели с гораздо более высокой точностью, чем люди; и чем крупнее роль, которую они играют в театре боевых действий, тем реже техники будут использовать их во вред.
Но что, если такое оружие станет независимым и будет работать самостоятельно, без вмешательства человека? Не приведет ли удаление людей из списка военного персонала к еще более суровой и неудержимой гонке вооружений?
Открытое письмо, опубликованное в ходе Международной совместной конференции по искусственному интеллекту в 2015 году, предупредило, что автономное оружие «не требует дорогостоящего или труднодоступного сырья, поэтому станет повсеместным и дешевым для всех значительных военных сил для массового производства». Будет ли эпоха с автоматизированным оружием более мирной или более воинственной?
Исследователи RAND призывают к аналитической структуре и международным усилиям, посвященным использованию боевых беспилотников высокой дальности в борьбе с терроризмом и точечных убийствах.
Принятие решений
Политики постоянно сталкиваются с огромным числом выборов и мотивов — в дни социальных сетей их много больше, чем двадцать лет назад. Такая информационная перегрузка не позволяет совладать с ситуацией во время кризиса, не говоря уж о множественных кризисах.
Недавно возникло предложение пропускать «все решения, которые принимает президент, через компьютер — не делать окончательный выбор, а помогать руководителю в лице человека».
Но хотя сейчас ИИ по большей части безгрешен, исследование RAND подчеркивает риски появления алгоритмических предубеждений в фильтрации новостей, влияния на уголовное правосудие и даже на предоставление пособий по социальному обеспечению и выдачу виз. Какие решения должны быть возложены на ИИ? Что должно оставаться в руках человека? В руках команды людей?
Творчество
Мир привык к ИИ, который может совершать захватывающие вычислительные подвиги и побеждать людей в популярных настольных играх (прошло чуть более 20 лет с тех пор, как суперкомпьютер IBMDeepBlue лихо победил шахматного гроссмейстера Гарри Каспарова). Как он будет дальше прогрессировать в творческом пространстве людей?
Исследователь искусственного интеллекта Джесси Энгель считает, что он «преобразит творческий процесс… дополнив его умными инструментами, предоставляющими новые возможности выражения». Другие не так оптимистичны. Журналист Адриенн Лафранс отмечает, что ИИ уже может «флиртовать», «писать романы» и «подделывать знаменитые картины с поразительной точностью». Что значит быть творческим? Более того, что значит быть человеком?
Обсуждения ИИ часто сводятся к крайностям, будь то обещание утопии, свободной от человеческих страданий, или опасности антиутопии, когда роботы поработят своих человеческих творцов. Необходим более сбалансированный и тщательный анализ, который поможет сформировать политику смягчения рисков и максимизации преимуществ. Необходимо предпринять определенные шаги для преодоления опасений на тему того, что ИИ поработать государство и общество.
Как ИИ может повлиять на национальные интересы страны? Какие типы ИИ, если таковые имеются, могут считаться стратегическими технологиями с учетом государственных критериев? Где должны сыграть рыночные силы, а где политика? Хотя ИИ по большей части остается уделом научной фантастики, эти вопросы приобретают все большую и большую значимость.
Комментарии (0)