Эксцентричный в хорошем смысле этого слова предприниматель, плейбой, филантроп Илон Маск известен всему миру. Это он решил вывести человечество в космос, колонизировать Марс, отказаться от одноразовых ракет. Это он решил сделать мир чище, пересадив нас с автомобилей с ДВС на самоуправляемые автомобили. Пока разворачиваются эти предприятия, он не сидит сложа руки. Он задумал Neuralink, который поможет нам стать новыми людьми. Без границ и без слабостей, как и положено в новом мире (Илона Маска). Документировать сумасшедшие идеи Маска, как и всегда, вызвался Тим Урбан с WaitButWhy (он писал про , и ). Представляем одно из лучших произведений современной научно-популярной журналистики. Далее от первого лица.
Представьте себе, что инопланетный путешественник навещает новую звезду и обнаруживает, что вокруг нее кружится три планеты, и все с жизнью. Первая будет идентична Земле времен 10 миллионов лет до нашей эры. Вторая будет идентичная Земле времен 50 000 лет до нашей эры. Третья будет идентична Земле времен 2017 года.
Инопланетянин не разбирается в примитивной биологической жизни, но решается облететь все три планеты, заглянув на каждую при помощи телескопа. На первой он видит много воды, деревьев, гор и несколько признаков животной жизни. Он видит стадо слонов на африканской равнине, группу дельфинов, проплывающих в океане, и еще несколько тварей там и тут, живущих своей жизнью.
На второй планете еще больше животных, но они не сильно отличаются. Есть и кое-что необычное — случайные маленькие точки мерцающего света, усеивающего землю.
Заскучав, он переходит к третьей планете. Вау. Он видит самолеты, летающие над землей, гигантские площади серой земли с возвышающимися на ней зданиями, корабли разных размеров, бороздящие моря, длинные железнодорожные пути, тянущиеся через континенты, и его космический корабль едва не сталкивается со спутником на подлете.
Отправляясь домой, он сообщает о находке. «Две планеты с примитивной жизнью и одна с разумной жизнью».
Его выводы кажутся логичными и понятными, но он ошибся.
На самом деле странной будет первая планета. На второй и третьей планетах есть разумная жизнь — в равной степени разумная. Настолько равной, что вы можете украсть ребенка со второй планеты и подменить им ребенка на третьей планете, и оба вырастут нормальными людьми, без каких-либо проблем. Одни и те же люди.
И все же, как так получилось?
Колосс Человеческий. Вот как.
Никогда не задумывались, почему люди впечатляют нас не так сильно, как достижения человечества?
Потому что люди по-прежнему остаются теми самыми людьми со второй планеты.
Принесите человеческого ребенка группе шимпанзе и попросите их вырастить его в стиле Тарзана, и, повзрослев, этот человек будет знать, как бегать по лесу, прыгать по деревьям, искать еду и мастурбировать. Ведь это каждый из нас, в самом деле.
Человечество, с другой стороны, — это сверхразумный, чрезвычайно любознательный, тысячелетний Колосс с 7,5 миллиарда нейронов. Именно он построил третью планету.
Изобретение языка позволило каждому человеку с мозгом сжимать свои знания в зернышко перед смертью, и это зернышко проросло в целую башню, которая становилась все выше и выше, пока в один день не стала мозгом великого Колосса, который построил нам цивилизацию. С тех пор Колосс Человеческий все изобретает и изобретает, становится лучше и лучше со временем. Одержимый желанием создавать ценность, Колосс движется с огромной скоростью — и мы ощущаем это, поскольку живем в самое необычное время за всю историю.
Помните, я говорил, что мы, возможно, живем на границе между двумя большими эрами коммуникации?
Может быть и так, что мы находимся на большом историческом рубеже. После 1000 веков человеческой жизни и 3,8 миллиарда лет земной жизни, этот век ознаменует наш переход от эры одной планеты в многопланетную эру. Этот век может стать веком, когда земной род сможет вырвать генетический код из цепких лап эволюции и научится перепрограммировать себя. Живущие сегодня люди могут стать свидетелями того момента, когда биотехнологии окончательно освободят человеческую жизнь от законов природы и передадут ее воле каждого человека.
Колосс Человеческий достиг совершенно нового уровня силы — силы, которая может разрушить эру длиной в 3,8 миллиарда лет — и поставил нас на грань многочисленных переломных моментов, которые приведут к невообразимым изменениям. И если наш друг-инопланетянин однажды обнаружит четвертую планету, которая будет идентична Земле в 2100 году, можно сказать наверняка, что она не будет похожа на третью планету.
Надеюсь, вам нравится третья планета, ведь мы на ней живем. Но мы придем к четвертой планете, хотим мы этого или нет.
Если бы мне пришлось обобщить все, что делает Маск, получилось бы довольно просто:
Он хочет подготовить нас к четвертой планете.
Он мыслит широкими категориями и видит жизнь на планете только с максимальным охватом. Поэтому его поступки кажутся совершенно оторванными от реальности (и при этом фантастически прозорливыми). Это его тоже беспокоит.
Не то чтобы он считал четвертую планету плохим местом — он допускает, что она может быть таковой и что поколения, которые живут сегодня, сами того не осознавая, впервые в истории встречаются с настоящей угрозой для выживания человечества.
В то же время живущие сегодня люди также впервые в истории живут с надеждой на истинно утопическое будущее — которое бросает вызов даже смерти и налогам. Четвертая планета будет нашей землей обетованной.
Если взглянуть издалека, становится очевидным, насколько высоки ставки.
И исход определяется не только прихотью случая — он определяется прихотью Колосса Человеческого. Четвертая планета появится только потому, что ее создает Колосс. И будет наше будущее похоже на рай или ад — это зависит от того, что будет делать Колосс. Возможно, в следующие 150 лет, возможно — в 50. Или 25.
Печальное в этой истории то, что Колосс Человеческий не оптимизирован на максимальный успех безопасного перехода к наилучшей из возможных четвертых планет для большинства людей — он оптимизирован для создания четвертой планеты любым возможным способом как можно быстрее.
Понимая все это, Илон посвятил свою жизнь попытке повлиять на Колосс Человеческий, чтобы привести его мотивацию в соответствие с долгосрочными интересами людей. Он знает, что невозможно переписать Колосс Человеческий — если только угроза для выживания не возникает непосредственно у каждого человека перед носом, а этого обычно не происходит до самого последнего момента — поэтому относится к Колоссу как к своему питомцу.
Если вы хотите, чтобы ваш песик сидел, вы связываете команду «сидеть» с получением удовольствия. Для Колосса Человеческого удовольствие — это сочная новая индустрия, которая взрывается одновременно в спросе и предложении.
Илон увидел, что собака Колосса Человеческого писает на ковер, постоянно выбрасывая углерод в атмосферу — и вместо того, чтобы наказать песика и уговорить не писать на ковер (что, кстати, безуспешно пытаются сделать многие) или ограничить его в поведении (что пытаются безуспешно сделать правительства стран), он создал электромобиль, который очень скоро покорит мир. Автомобильная отрасль постепенно смещается в эту сторону, и спустя девять лет после того, как Tesla выпустила свой первый автомобиль, число компаний, которые имеют электромобиль в своей производственной линейке, сменилось с нуля на почти всех. Пес Колосс принял подачку и изменит свое поведение.
Илон увидел, как песик Колосса Человеческого пытается сохранить все яйца на одной планете, несмотря на все эти переломные моменты в истории, поэтому создал SpaceX, чтобы научиться приземлять ракету, которая сократит стоимость космических путешествий на 99% и ускорит развитие этой отрасли. Его план с Марсом состоит не в том, чтобы убедить человечество, что это круто — создать цивилизацию на Красной планете, дабы гарантировать страхование жизни для вида — а в том, чтобы создать функционирующий постоянный грузовой и пассажирский транзит на Марс, потому что когда наступит время, в Марсе будет достаточно созданной ценности, чтобы им заинтересовался Колосс.
Но самое страшное, по мнению Илона, то, что Колосс пытается научить Колосс Компьютерный думать. По мнению Илона и многих других, развитие сверхразумного искусственного интеллекта представляет собой величайшую угрозу для выживания человечества. И не так сложно понять почему. Разум дает нам богоподобную силу, власть над всеми другими существами на Земле — и для них власть человека не самое сладкое время. Если бы из частей тел животных можно было сделать что-нибудь ценное, мы бы создали крупные отрасли, перерабатывающие животных и продающие эти части тел — и стало так. Иногда мы убиваем их ради кайфа, ради спортивного интереса. Но делаем это без ненависти, без желания навредить кому-либо, просто так получилось, что все эти существа, или экосистема, оказались на пути нашего интереса, действий, поступков, движения. Люди любят упрекать человечество в излишней жестокости, но любой вид поступал бы так же — был эгоистичным, первым и главенствующим.
Проблема других существ не в том, что мы эгоистичны, а в том, что у нас появилась колоссальная над ними власть. Власть, которую нам обеспечило интеллектуальное преимущество.
Поэтому вполне логично опасаться перспектив намеренного создания чего-либо, обладающего (наверное, в максимальной степени) намного большим интеллектом, чем мы — особенно на фоне того, что каждый человек на планете может стать первым, кто это сделает.
И все идет очень быстро. Илон рассказывает о быстром прогрессе, который делает играющий в игры ИИ Google:
Было два этих случая, когда AlphaGo победил игроков-людей один на один, обыграл Ли Седоля в четырех играх из пяти, и теперь он будет обыгрывать каждого человека в каждой игре, играя одновременно с 50 лучшими игроками, и всегда будет их побеждать, во веки веков. Всего через год.
И это речь идет о такой безобидной штуке, как AlphaGo. Но степень свободы, в которой ИИ может побеждать, постоянно растет. В го гораздо больше степеней свободы, чем в шахматах, но если взять какую-нибудь из стратегий в режиме реального времени, вроде League of Legends или Dota 2, в которых намного больше степеней свободы, чем в го, в них ИИ пока победить не может. Но научится. Затем последует реальность с максимальным числом степеней свободы.
Очевидно, здесь есть о чем переживать:
За последние несколько лет я понял, что ИИ определенно намного превзойдет человека в интеллекте. Существует определенный риск, что произойдет нечто плохое, нечто, что мы не сможем контролировать, что не сможет контролировать человечество. После определенного момента либо группа людей монополизирует ИИ, либо ИИ отправится в свободное плавание, что-то вроде этого. Может быть, а может и нет.
Но в типичной форме Колосса Человеческого «коллективная воля не будет подвержена опасности ИИ».
Когда я брал интервью у Илона в 2015 году, я спросил его, будет ли он когда-нибудь участвовать в создании искусственного сверхинтеллекта. Он сказал: «Если честно, я считаю, что мы не должны его создавать». И когда я позже сказал, что создание чего-то более умного, чем ты сам, похоже на дарвиновскую ошибку (эту фразу я украл у Ника Бострома), Илон ответил: «Мы получим премию Дарвина коллективно».
Теперь, спустя два года, он говорит следующее:
Я действительно пытался подать тревожный сигнал на тему ИИ, но очевидно, что никакого воздействия не оказал (смеется), поэтому я решил: хрен с ним, давайте разработаем его так, чтобы все было хорошо.
Он принял реальность — Колосс Человеческий не собирается уходить, пока однажды не проснется Колосс Компьютерный. Этому быть.
Вне зависимости от того, что вам там говорят, никто не знает, что произойдет, когда Колосс Компьютерный научится думать. В длинной статье на тему ИИ я исследовал аргументы обеих сторон, одна из которых убеждена, что искусственный сверхинтеллект станет решением всех наших проблем, а другая — что человечество — это кучка детей, играющих с бомбой, которую не понимают. Лично я до сих пор не определился с лагерем, которому доверяю больше, поэтому кажется наиболее рациональным готовиться к худшему и делать все возможное, чтобы повысить шансы на успех. Многие эксперты согласны с этой логикой, но не могут договориться о стратегии безопасного создания ИСИ. Люди просто не знают ответа. Какие меры предосторожности можно принять перед лицом мира, который невозможно понять?
Илон тоже признает, что не знает ответа, но работает над планом, который, по его мнению, даст нам лучший результат.
План Илона
Авраам Линкольн гордился собой, когда придумал эту строчку:
— и что правительство народа, управляемое народом и для народа, никогда не исчезнет с лица земли.
Честно — строчка хороша.
Вся эта идея «про людей, для людей, ради людей» — это основа демократии.
К сожалению, «люди» неприятные. Поэтому и демократия становится неприятной. Но неприятное, как правило, оказывается сказкой по сравнению с альтернативами. Илон считает так:
Думаю, защита коллектива очень важна. Думаю, именно Черчилль сказал: «Демократия — худшая из всех систем управления, не считая всех остальных». Хорошо, когда при короле есть хороший философ на уровне Платона. Было бы круто. Но теперь большинство диктаторов так не считают. Поэтому они ужасны.
Другими словами, демократия — это способ укрыться от монстра, спрятавшись в канализации.
В жизни часто бывает, когда риск — хорошая стратегия, которая обеспечит шанс на лучший возможный результат, но когда ставки максимально высоки, правильный ход должен быть безопасным. Власть — одна из таких ситуаций. Поэтому даже если демократия гарантирует определенный уровень посредственности, Илон говорит, что «вряд ли вы в США найдете много людей, которые выступали бы за диктатуру, вне зависимости от того, что думают о том или ином президенте».
И поскольку Илон видит в ИИ совершенную силу и власть, развитие ИИ станет конечной безопасной стратегией развития ситуации. Поэтому его стратегия минимизации экзистенциальных рисков ИИ состоит в том, что власть ИИ станет для людей, ради людей, управляемой людьми.
Чтобы реализовать эту концепцию в области ИИ, Илон подошел к ситуации с разных углов.
«Для людей и ради людей», он и Сэм Альтман — самопровозглашенную «некоммерческую исследовательскую компанию по ИИ, открывающую и принимающую курс на развитие безопасности искусственного интеллекта общего уровня».
Обычно, когда человечество работает над чем-то новым, работа начинается с инноваций нескольких людей. Когда они достигают успеха, рождается индустрия, и Колосс Человеческий запрыгивает на борт, чтобы в массовом порядке обустроиться на фундаменте, заложенном пионерами отрасли.
Но что, если бы эти пионеры работали над волшебной палочкой, которая могла бы дать тому, кто ей владел, огромную, непреодолимую власть над всеми остальными, включая власть над тем, чтобы никто другой не мог сделать волшебную палочку? Интересная ситуация, не так ли?
Именно так Илон рассматривает сегодняшние усилия в области развития ИИ. И поскольку он не может остановить людей от попыток создать волшебную палочку, его решение заключается в создании открытой, совместной и прозрачной лаборатории по разработке волшебных палочек. Когда в лаборатории разрабатывается нечто прорывное, оно сразу же становится открытым и известным всем и каждому, а не утаивается в секрете.
С одной стороны, у такого подхода есть свои недостатки. Плохие парни тоже пытаются создать волшебную палочку, а вы не хотите, чтобы первая волшебная палочка попала в руки плохих ребят. И теперь плохие парни могут извлечь выгоду из всех инноваций, которыми делится лаборатория. Это серьезная проблема.
Но лаборатория ведь также помогает миллионам других людей, пытающимся создать волшебные палочки. Для скрытных первопроходцев это порождает серьезную конкуренцию, и становится менее вероятным, что любой изобретатель может создать волшебную палочку задолго до того, как другие тоже сделают это. Скорее всего, когда первая волшебная палочка в конце концов появится, вместе с ней появятся тысячи других — разные палочки, с разными возможностями, созданными разными людьми по разным причинам. Если на Земле появятся волшебные палочки, считает Илон, мы хотя бы будем уверены, что они окажутся в руках разных людей по всему миру — а не в руках одного всемогущего волшебника.
Если каждый будет с планеты Криптон, все в порядке. Но если только один будет Суперменом с задатками Гитлера, у нас будут проблемы.
В более широком смысле, волшебная палочка одного инноватора, вероятнее всего, послужит нуждам и целям ее же изобретателя. Но если сделать будущую отрасль волшебных палочек коллективной задачей, широкое разнообразие нужд и целей позволит создать много волшебных палочек, которые удовлетворят нужды масс.
То есть, как и демократия.
Николе Тесле, Генри Форду, братьям Райт и Алану Тьюрингу несказанно повезло, что революция началась с их прорывов. Но когда вы имеете дело с изобретением чего-то невероятно мощного, вы не можете сидеть сложа руки и позволять инноваторам баловаться — слишком многое остается для случая.
OpenAI — это попытка демократизировать создание искусственного интеллекта, чтобы весь Колосс Человеческий работал над ним во время пионерской фазы. Илон суммирует так:
ИИ определенно превзойдет людей в способностях. До тех пор, пока он будет привязан к человеческой воле, в частности сумме воли большого числа людей, его действия будут определяться большим количеством людей, потому что он будет функционировать в соответствии с их волей.
И вот, вы заполучили сверхсильный ИИ на уровне человека или выше, который сделан людьми и для людей. Это снижает вероятность того, что мировой ИИ окажется в руках одного плохого человека или тесно контролируемой монополии.
Теперь все, что у нас осталось, — это люди.
Но теперь будет легче. Помните, Колосс Человеческий создает искусственный сверхинтеллект по той же причине, по которой создает машины, конвейеры и компьютеры — как свое дополнение, чтобы переложить работу на аутсорс. Машины ходят за нас, фабричные конвейеры выпускают за нас детали, компьютеры хранят информацию, организуют и считают.
Создание компьютеров, которые могут думать, станет нашим самым большим изобретением — они позволят нам производить аутсорсинг нашей самой важной и высокоэффективной работы. Мышление создало все, что у нас есть, поэтому просто представьте себе силу, которая будет исходить от сверхразумного мыслящего дополнения. И дополнение людей по определению принадлежит людям.
Есть только одна вещь —
ИИ высокого калибра не очень похож на другие изобретения. Остальная часть наших технологий великолепна в том, что она может создавать, но в конце концов все это — бездушные машины с узким, ограниченным интеллектом. ИИ, который мы пытаемся создать, будет умным как человек, как действительно «безумно умный» человек. Он будет принципиально отличаться от всего, что мы делали прежде, почему же мы тогда ждем, что к нему будут применимы обычные правила?
Технологии всегда принадлежали нам — это настолько очевидный момент, что кажется бессмысленным его приводить. Но может ли быть так, что если мы сделаем что-то умнее человека, управлять им будет не так легко?
Может ли быть так, что создание, которое соображает лучше любого человека на Земле, может отказаться служить дополнением человека, даже если будет создано именно для этого? Мы не знаем, какие проблемы могут проявиться — но стоит предполагать, что да, они могут проявиться.
И если будет так, в наших руках окажется серьезная проблема.
Потому что, как показывает человеческая история, когда на планете появляется что-то умнее других, для всех остальных это плохо. И если ИИ станет самым умным объектом на планете и вдруг будет не полностью нам принадлежать, он будет предоставлен сам себе. Выходит, мы окажемся в категории «всех остальных».
Поэтому люди, которые получают монополистический контроль над ИИ, уже сами по себе являются проблемой — и эту проблему OpenAI пытается решить. Но эта проблема может оказаться блеклой рядом с перспективой неуправляемого ИИ.
Это не дает Илону спать. Он видит в этом только вопрос времени, когда искусственный сверхинтеллект появится на этой планете, и когда это произойдет, очень важно, чтоб мы не стали «всеми остальными» для него.
Вот почему в мире будущего, состоящего из ИИ и «всех остальных», у нас будет только один хороший вариант:
Стать ИИ.
* * *
Помните, раньше я говорил, что волшебные шляпы делятся на две идеи, которые нам нужно как-то осознать:
- Совершенно невероятную идею
- Супер-пупер-поразительную совершенно невероятную идею
Вот здесь-то мы подходим ко второй.
Эти две идеи подразумевает Илон, когда называет волшебную шляпу третичным цифровым слоем в наших мозгах. Во-первых, мы выяснили, что общемозговой интерфейс, его концепция — это сродни тому, чтобы поместить наши устройства в наши головы — тем самым превратив мозг в устройство. Вроде этого:
Ваши устройства дают вам сверхсилу киборгов и открывают окно в мир цифровых технологий. Массив электродов вашей волшебной шляпы — это новая структура мозга, соединяющая вашу лимбическую систему и кору.
Но ваша лимбическая система, кора и волшебная шляпа — это всего лишь аппаратная часть. Когда вы ощущаете работу своей лимбической системы, вы взаимодействуете не с физической ее часть — а с информацией внутри нее. Именно активность этой физической системы, которая пузырится в вашем сознании, заставляет вас сердиться, пугаться, ругаться или чувствовать голод.
То же самое с вашей корой. Салфетка, обернутая вокруг вашего мозга, хранит и упорядочивает информацию, но когда вы думаете, видите, слышите или ощущаете что-нибудь, вы взаимодействуете с информацией. Зрительная кора сама по себе ничего для вас не делает — это поток фотонной информации, проходящий через нее, дает вам опыт наличия зрительной коры. Когда вы погружаетесь в воспоминания, чтобы что-нибудь извлечь, вы ищете не в нейронах, вы ищете в информации, которая в них хранится.
Лимбическая система и кора — это всего лишь серое вещество. Поток активности в сером веществе формирует знакомых вам внутренних персонажей, мозг обезьяны и рациональный мозг человека.
Что это говорит о вашем третичном цифровом слое?
Это говорит, что хотя в вашем мозге действительно будет физическое устройство — сам массив электродов — главным компонентом, с которым вы будете иметь дело, будет информация, которая проходит через массив.
И точно так же, как чувства и побуждения лимбической системы, мысли и болтливый голос коры будут ощущаться как части вас — ваша внутренняя сущность — активность, протекающая через вашу волшебную шляпу, станет частью вас и вашей сущности.
Видение Илоном эры волшебника состоит в том, что среди многих применений волшебной шляпы одним из ее назначений будет интерфейс между вашим мозгом и облачной системой ИИ. Эта система ИИ, считает он, станет настоящим персонажем в вашем сознании, как ваша обезьяна и человек, и вы будете чувствовать ее наравне с другими. Он говорит:
Я думаю, по-видимому, есть способ сделать так, что третичный слой будет ощущаться как часть вас. Не как внешнее устройство, а как вы.
На бумаге в этом есть смысл. Большая часть вашего «мышления» протекает в вашей коре, но когда вы проголодались, вы не говорите: «моя лимбическая система голодна», вы говорите: «я голоден». Точно так же, думает Илон, когда вы пытаетесь найти решение проблемы и ваш ИИ найдет ответ, вы не скажете: «мой ИИ нашел ответ», вы скажете: «ееее, я нашел ответ». Когда ваша лимбическая система хочет прокрастинировать, а ваша кора хочет работать, никакой схватки между внешними сущностями не происходит, просто вы один пытаетесь быть дисциплинированнее. Точно так же, когда вы придумаете рабочую стратегию, а ваш ИИ не согласится, это будет подлинное несогласие и возникнет диалог — но это будет ваш внутренний диалог, а не дебаты между одним оратором и вторым. Этот диалог будет подобен размышлению.
На бумаге в этом есть смысл.
Но когда я впервые услышал, как Илон рассуждает об этой концепции, я не мог кое-что уловить. Неважно, сколько раз я пытался всосать эту идею, но я не мог представить, каково это — слышать ИИ в своей голове, он всегда был для меня внешней системой, с которой я связываюсь. В ней не было меня.
Но затем, однажды ночью, во время работы над этой статьей, я перечитывал цитаты Илона, и все внезапно стало на свои места. ИИ будет мной. В полной мере. Я понял.
И опять потерял нить. На следующий день я попытался объяснить прозрение другу, и мы оба сконфузились. Я вернулся к мысли «блин, но ведь это буду не совсем я, это будет связь со мной». С тех пор я никак не мог ухватить нужную идею за хвост. Лучшее сравнение, которое я подобрал, — это пространство-время — единая ткань. На секунду мне показалось интуитивно понятным, что время движется медленнее, когда вы движетесь очень быстро. Но мысль опять пропала. Я напечатал эти строки, но они не кажутся мне интуитивно понятными.
Идея «быть искусственным интеллектом» особенно сложна, потому что сочетает в себе две головокружительные концепции — нейрокомпьютерный интерфейс и способности, которые он вам даст, и искусственный интеллект общего уровня. Сегодня люди просто не могут понять ни одну из этих идей, потому что в процессе воображения мы руководствуемся своим жизненным опытом, и эти концепции одновременно являются совершенно новыми для нас. Это похоже на попытку представить цвет, который вы никогда не видели.
Именно поэтому, когда я слышу, как Илон с убежденностью говорит на эту тему, я нахожусь где-то посередине, одновременно веря ему и деля его слова надвое. Мечусь туда и обратно. Но если предположить, что он — тот самый, кто ухватил интуитивное представление пространства-времени, а также один из немногих, кто знает, как колонизировать Марс, я стараюсь прислушиваться к тому, что он говорит.
А он говорит, что все дело в пропускной способности. Очевидно, пропускная способность должна сделать волшебную шляпу полезной. Но Илон полагает, что когда речь заходит о взаимодействии с ИИ, высокая пропускная способность не просто предпочтительна, но и принципиально важна для перспективы быть ИИ, если сравнивать с простым использованием ИИ. Вот что он об этом думает:
Проблема состоит в том, что пропускная способность коммуникации чрезвычайно низкая, особенно на выходе. Когда вы выводите информацию на телефон, вы очень медленно двигаете двумя пальцами. Это безумно медленная коммуникация. Если пропускная способность слишком низкая, ваша интеграция с ИИ будет очень слабой. Учитывая ограничения низкой пропускной способности, все теряет смысл. ИИ будет просто жить сам по себе, потому что мы будем слишком медленно с ним общаться. Чем быстрее коммуникация, тем больше можно интегрироваться — чем медленнее коммуникация, тем меньше. И чем больше мы разделены — чем больше ИИ будет «другим» — тем вероятнее, что он на нас плюнет. ИИ будут отдельными и умнее нас, как убедиться, что их функции оптимизации не навредят человечеству? Если же мы достигнем тесного симбиоза, ИИ не будет «другим», он будет с вами в родстве, так же как вы в родстве с вашей лимбической системой.
Илон видит пропускную способность коммуникации ключевым фактором, который определит уровень интеграции с ИИ, и этот уровень интеграции — ключевой фактор того, сможем ли мы повлиять на ИИ в будущем:
У нас будет выбор: либо остаться в стороне и стать бесполезными, как домашнее животное, либо слиться с ИИ.
Впрочем, стать домашним котиком — это еще неплохой исход.
Без реального понимания того, какого рода ИИ будет на планете, когда мы достигнем эры искусственного сверхинтеллекта, интеграция людей и ИИ сама по себе станет защитой от вымирания людей как вида. Наша уязвимость в эру ИИ будет проявляться в виде плохих людей, которые контролируют ИИ, либо сбежавшим ИИ, который не хочет действовать в соответствии с ценностями людей. В мире, в котором миллионы людей контролируют власть ИИ — которые могут думать с ИИ, защищать себя при помощи ИИ, понимают ИИ, потому что интегрированы с ним — люди будут менее уязвимы. Люди будут могущественнее, и это страшно, но, как говорит Илон, если каждый станет Суперменом, одному Супермену будет сложно причинить большой вред — будет что-то вроде равновесия. И мы вряд ли потеряем контроль над ИИ, потому что он будет широко распределен на планете, и цели его будут разными.
Но время имеет существенно значение. И это подчеркивает Илон:
Темпы прогресса в этом направлении имеют важное значение. Мы не хотим разработать цифровой сверхинтеллект прежде, чем сможем обеспечить хорошее слияние с нейрокомпьютерным интерфейсом.
Когда я размышлял над этим всем, у меня возник один вопрос: будет ли общемозгового интерфейса достаточно, чтобы сделать интеграцию возможной и вероятной. Илон отметил, что разница между нашей скоростью мышления и скоростью мышления компьютера будет по-прежнему большой.
Но увеличение пропускной способности сделает ее на порядок выше. И это правильно. Решит ли это все проблемы? Нет. Правильно ли это? Да. Если двигаться в одном направлении, зачем смотреть по сторонам?
Поэтому Илон запустил Neuralink.
Он запустил Neuralink, чтобы ускорить наш прогресс в эру волшебников — в мир, где, по его словам, «каждый, кто захочет дополнить себя ИИ, сможет себе это позволить, и где будут миллиарды отдельных симбиотов ИИ-людей, которые будут совместно принимать решения о будущем». Мир, где ИИ будет для людей, от людей и ради людей.
* * *
Я подозреваю, что сейчас некоторые из вас полагают, что безумный мир, в котором мы жили последние 38 000 слов, может быть нашим будущим, но какая-то часть вас отказывается в это верить. И здесь я вас искренне понимаю, сам такой же.
Но безумная его часть не должна быть причиной того, что в него трудно поверить. Помните: Джордж Вашингтон умер, когда увидел 2017 год. И наше будущее будет для нас непостижимо шокирующим. Разница лишь в том, что сейчас время летит еще быстрее, чем во времена Джорджа.
Понятие унесенных будущим говорит о магии нашего коллективного разума — и о наивности нашей интуиции. Наши умы эволюционировали в то время, когда прогресс двигался очень медленно, поэтому наше оборудование откалибровано под него. И если мы не будем активно отвергать свою интуицию — ту часть нас, которая читает о будущем как о чем-то диковинном и отказывается верить в то, что это возможно — мы будем жить в неведении и умрем в отрицании.
Реальность такова, что мы движемся в тесном потоке в очень тесное место, и никто не знает, каково будет там, когда мы доберемся. Многие люди боятся задумываться об этом, а мне нравится. Потому что, когда мы родились, мы не стали жить в нормальном мире, как нормальные люди — мы живем в фильме ужасов. Некоторые люди примут эту информацию и попытаются пойти в одну ногу с Илоном, делая все возможное, чтобы у этого фильма был счастливый конец — и слава им. Потому что я лучше побуду зрителем, который смотрит этот фильм с попкорном и колой, болея за хороших парней.
В любом случае, думаю, иногда полезно время от времени взбираться на дерево и напоминать себе, в какое шикарное время мы живем. А деревьев так много вокруг. Встретимся на одном из них в ближайшее время.
Комментарии (0)