Новости из мира высоких технологий

Почему искусственный интеллект не сможет уничтожить человечество

Искусственный интеллект

Некоторые футурологи убеждены, что искусственный интеллект рано или поздно сотрет человечество с лица земли. Профессор Оксфордского университета Ник Бостром в своей книге «Сверхразум» рассматривает несколько сценариев конца света. В одном из них искусственный интеллект покрывает всю поверхность планеты плитами солнечных батарей, ядерными реакторами, гигантскими серверными корпусами, башнями охлаждения и другими конструкциями. На модифицированной таким образом Земле не останется места ни для человечества, ни для биосферы. Бостром сравнивает людей, которые работают над созданием искусственного интеллекта, с детьми, играющими с бомбой.

Ряд мыслителей настроены более позитивно, и у них имеются аргументы, которые ставят под сомнение мрачные прогнозы Бострома. Оптимисты уверены, что вероятность апокалипсиса из «Сверхразума» сводится к нулю техническими ограничениями и простой логикой. Так, писатель-фантаст Рамез Наам в статье для журнала «H+» утверждает, что даже самому мощному искусственному интеллекту потребуется огромное количество времени и ресурсов, чтобы создать средства для уничтожения человечества. Сверхразуму каким-то образом придется интегрироваться в экономическую деятельность, чтобы добиться своих целей. Например, для создания новых микропроцессоров искусственному интеллекту понадобится не только их разработать, но и получить доступ к производственным цехам, где чипы можно будет изготовить. Наам не видит, каким образом сверхразум сможет решить эти проблемы.

Но существует и другая категория аргументов в защиту искусственного интеллекта — доводы этико-философского характера. В соответствии с ними, пока машина не наделена чувствами, она не может хотеть чего бы то ни было, в том числе конфликта с человечеством или его уничтожения.

«Желание лежит в основе любого независимого действия, — считает писатель Майкл Корост (Michael Chorost). — Как только у искусственного разума появится первое желание, он сразу откроет для себя мир поощрений и наказаний. В числе наказаний неизбежно окажутся санкции за неправильное поведение по отношению к человеку. Развиваясь в мире людей, искусственный разум обязательно усвоит представления о правильных и неправильных действиях с точки зрения морали. Когда у сверхразума появится реальная возможность замостить всю Землю солнечными батареями, он откажется от этой затеи, признав ее аморальной».

По мнению Короста, искусственный разум может взбунтоваться против людей, только если будет иметь соответствующее желание. Однако на современном этапе исследований мы не имеем ни малейшего представления о природе ощущений, чувств и желаний, а значит не можем построить машину или написать программу, способную их испытывать. В качестве примера Корост приводит знаменитую нейросеть AlphaGo, которая недавно сумела обыграть чемпиона мира по го.

«Возможности программы впечатляют, — признает Корост, — однако AlphaGo совершенно не понимает, что делает, она не испытывает удовольствия от победы или огорчения от поражения, она не может отказаться от игры со словами «давайте лучше поиграем сегодня в шахматы». В настоящее время лишь эволюции удалось создать существ, которые могут чувствовать и вырабатывать те или иные отношения к явлениям окружающего мира».

Доводы Короста и Наама звучат убедительно, но окончательно развеять страх людей перед искусственным разумом смогут, наверное, лишь время и сам искусственный разум.


Источник: Почему искусственный интеллект не сможет уничтожить человечество
Автор:
Теги: технологии исследования искусственный интеллект апокалипсис Го Время Человечество Конец света Теории Оксфордский университет Интеллект

Комментарии (0)

Сортировка: Рейтинг | Дата
Пока комментариев к статье нет, но вы можете стать первым.
Написать комментарий:
Напишите ответ :
Искусственный интеллект «оживил» героев известных картин, мультиков и президентов с денежных купюр
Искусственный интеллект «оживил» героев известных картин, мультиков и президентов с денежных купюр
2
Человек познаёт мир 02:30 16 апр 2024
5 объектов всемирного наследия ЮНЕСКО, которые человечество вскоре может утратить
5 объектов всемирного наследия ЮНЕСКО, которые человечество вскоре может утратить
4
Человек познаёт мир 23:40 18 мар 2025
Смертельные пандемии, которые могут уничтожить человечество
Смертельные пандемии, которые могут уничтожить человечество
1
Интересный мир 07:50 13 янв 2017
6 достопримечательностей, с которыми человечество вот-вот попрощается
6 достопримечательностей, с которыми человечество вот-вот попрощается
1
Человек познаёт мир 02:30 08 апр 2024
Тот, кто ступает мягко, сможет уйти далеко. Китайская пословица  
Тот, кто ступает мягко, сможет уйти далеко. Китайская пословица  
1
Страничка добра и сплошного жизненного позитива! 12:31 02 июн 2024
Как уборка влияет на ваш интеллект
Как уборка влияет на ваш интеллект
7
Человек познаёт мир 12:37 14 апр 2024
Человечество сможет посетить не больше трех процентов Вселенной
Человечество сможет посетить не больше трех процентов Вселенной
0
Новости высоких технологий 13:30 23 май 2016
Оказывается, интеллект передается от мамы!
Оказывается, интеллект передается от мамы!
5
Интересный мир 10:10 18 фев 2017
Судьба коня, интеллект которого приравнивали к человеческому
Судьба коня, интеллект которого приравнивали к человеческому
7
Женский каприз 08:13 23 авг 2021
4 причины, почему даже самая идеальная любовница не сможет заменить жену
4 причины, почему даже самая идеальная любовница не сможет заменить жену
62
Живи правильно 06:26 03 июн 2018
30 добрых поступков, которые помогают вернуть веру в человечество
30 добрых поступков, которые помогают вернуть веру в человечество
5
Человек познаёт мир 09:30 26 окт 2023
Запеченные яблоки с орехами
Запеченные яблоки с орехами
0
Женский развлекательный и поучительный сайт. 23:27 Вчера

Выберете причину обращения:

Выберите действие

Укажите ваш емейл:

Укажите емейл

Такого емейла у нас нет.

Проверьте ваш емейл:

Укажите емейл

Почему-то мы не можем найти ваши данные. Напишите, пожалуйста, в специальный раздел обратной связи: Не смогли найти емейл. Наш менеджер разберется в сложившейся ситуации.

Ваши данные удалены

Просим прощения за доставленные неудобства