Новости из мира высоких технологий
<p itemscope itemtype="http://schema.org/ImageObject"> <p align="center"><img src="//s.mediasole.ru/cache/cont

Как именно ИИ принимает решения? Учёные перестали это понимать



Выступающие на конференции Neural Information Processing Systems специалисты в области искусственного интеллекта заявили, что перестали понимать принцип принятия решений, которым руководствуется ИИ, — сообщает Quartz. По мнению экспертов, принимать как должное действия ИИ без понимания его логики — довольно легкомысленно, ведь чтобы люди приняли модели машинного обучения, им нужно знать, чем именно руководствуется ИИ, решая, как именно ему следует поступить в конкретной ситуации.

Часто решения, принятые ИИ, бывают предвзятыми, кроме того, его ассоциативное «мышление» тоже зачастую бывает не столь идеальным, в результате чего ИИ проводит неправильные аналогии. Такие ошибки могут дорого обойтись, если ИИ будет руководить сложными проектами, такими, к примеру, как полёт на Марс — в этом случае неверный поступок искусственного интеллекта может не только уничтожить дорогостоящее оборудование, но и повлечь за собой смерти людей. Поэтому, перед тем, как позволить ИИ самостоятельно принимать важные решения, необходимо сначала изучить принципы, которыми он руководствуется, — поясняет Мэтра Рагху, специалист по ИИ из Google.

На конференции она представила доклад, в котором описала процесс отслеживания действий отдельных частей неросети. Отсматривая их по частям, можно понять логику ИИ, а затем, в случае чего, её и подкоректировать. Анализируя миллионы операций, она смогла выявить отдельные искуссственные «нейроны», которые концентрировались на неверных представлениях, а затем отключить их, сделав ИИ более сговорчивым и правильным.

Это чем-то похоже на то, как учитель подаёт какой-то материал, а затем просит ученика пересказать своими словами, что именно он понял из лекции, — поясняет Кири Вагстафф ИИ-эксперт из NASA.

Судя по результатам этого исследования, верно понять действия искуссственного интелеекта не так уж и сложно. Главное — решить проблему до того, как станет слишком поздно.


Источник: Как именно ИИ принимает решения? Учёные перестали это понимать
Опубликовал:
Теги: исследования Компьютеры софт технологии Будущее искусственный интеллект США google имя Интеллект исследование конференция

Комментарии (0)

Сортировка: Рейтинг | Дата
Пока комментариев к статье нет, но вы можете стать первым.
Написать комментарий:
Напишите ответ :
Учёные выяснили, что чувствуют умершие: они всё осознают и понимают, что их «не стало» (видео)
Учёные выяснили, что чувствуют умершие: они всё осознают и понимают, что их «не стало» (видео)
5
Интересности 18:01 06 ноя 2017
Учёные открыли упражнение номер один против старения
Учёные открыли упражнение номер один против старения
61
Человек познаёт мир 08:20 04 апр 2018
Обзор кварцвиниловой плитки для пола в квартире Обзор кварцвиниловой плитки для пола в квартире
Ремонт в хрущевке 42 кв.м идеальное решение. Фото
Ремонт в хрущевке 42 кв.м идеальное решение. Фото
25
Все главные темы 17:50 18 апр 2018
9 признаков мужчины, который никогда не перестанет любить тебя
9 признаков мужчины, который никогда не перестанет любить тебя
23
Человек познаёт мир 13:39 03 янв 2019
«Робокасса» перестала принимать платежи в пользу ИП и физлиц
«Робокасса» перестала принимать платежи в пользу ИП и физлиц
0
Розничная торговля 15:36 22 апр 2016
Как не огорчаться и перестать страдать?
Как не огорчаться и перестать страдать?
13
Женский каприз 06:49 14 май 2018
Его жена забеременела в результате интрижки на стороне… Но никто не ожидал, что он поступит именно так!
Его жена забеременела в результате интрижки на стороне… Но никто не ожидал, что он поступит именно так!
13
Интересный мир 10:15 15 май 2017
Именно так возникает супружеская неверность
Именно так возникает супружеская неверность
4
Живи правильно 15:22 06 мар 2018
Просто жить: 11 способов перестать все усложнять
Просто жить: 11 способов перестать все усложнять
20
Дача сад огород и просто интересное 01:29 11 июл 2018
Учёные объяснили, почему домашние кошки опасны для здоровья человека
Учёные объяснили, почему домашние кошки опасны для здоровья человека
17
Дача сад огород и просто интересное 23:21 23 сен 2016
9 вещей, которые нельзя принимать в подарок
9 вещей, которые нельзя принимать в подарок
47
Женский каприз 07:48 16 июн 2018
Психологический прием 10/10/10 поможет принять трудное решение
Психологический прием 10/10/10 поможет принять трудное решение
64
Человек познаёт мир 13:15 12 янв 2019

Выберете причину обращения:

Выберите действие

Укажите ваш емейл:

Укажите емейл

Такого емейла у нас нет.

Проверьте ваш емейл:

Укажите емейл

Почему-то мы не можем найти ваши данные. Напишите, пожалуйста, в специальный раздел обратной связи: Не смогли найти емейл. Наш менеджер разберется в сложившейся ситуации.

Ваши данные удалены

Просим прощения за доставленные неудобства