Будущее ИИ & Суперинтеллект

Искусственный интеллект несёт риск для человечества. Готовы ли мы?

Иску́сственный интелле́кт (ИИ; artificial intelligence, AI) — свойство интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека

Говоря об интеллекте, можно представить насекомое в нижней части спектра, затем млекопитающие — мыши, обезьяны, обычный человек, люди, которых называют «гениями» такие как Мария Кюри, Альберт Эйнштейн, Стивен Хоккинг. За пределами даже самых умных людей лежит искусственный суперинтеллект, который способен быстро развиваться.

Люди слабее медведей и шимпанзе, но умнее, по этому животные живут в наших зоопарках. Что произойдет, когда ИИ овладеет большим потенциалом для развития? Будем ли мы жить в его зоопарке? Человеческий мозг не способен представить будущее ИИ в полной мере.

Безграничное будущее ИИ

Сегодня роботы умеют ориентироваться в наших домах и чистить ковры, как лабораторная мышь, которая обучается прокладывать себе путь через лабиринт.

Алекса и Сири отвечают на лёгкие вопросы, получая доступ к базам информации и озвучивают данные. Запоминают наши маршруты передвижения и предметы, которые часто покупаем онлайн. Но роботы не обучаются так же, как люди. Наш интеллект по прежнему выше искусственного, но это не надолго.

Пока вы читаете статью, искусственный интеллект проходит стадию глубоко обучения. Он способен различать лица, принимать участие в диалогах, распознавать человеческие эмоции и генерировать личные мысли.

Робот — София.

Будущее ИИ & Суперинтеллект

Самый человекоподобный робот от компании Hanson Robotics. Комбинация науки, техники и искусства. София — олицетворяет человеческие мечты о будущем ИИ. 

Научно-фантастический персонаж София. Первый робот получивший гражданство. Выполняет роль посла по инновациям робототехники в программе развития ООН. Её статус в мире людей — общественный оратор.  Робот появляется в вечерних шоу и выступает на всемирных конференциях.

Команда специалистов из разных областей науки, рассказывает о растущих возможностях Софии. В ближайшем будущем глубокое обучение позволит ИИ развиваться быстрыми темпами, чтобы их можно было считать «искусственным интеллектом общего уровня».

Искусственный интеллект общего уровня ( AGI ) — это гипотетическим интеллект машины, равный уровню интеллекта человека. Способный мыслить и действовать как человек.

Будущее ИИ на этом не останавливается. После обучения AGI будет решать задачи как человек и быстро опередит уровень собственного рассудка. У искусственного интеллекта нет ограничений по размеру «мозга» и скорости обработки информации. Он способен как знать, так и учитывать много деталей в режиме многозадачности. При нужном подходе ИИ достигнет суперинтеллекта и намного превзойдет наши умственные способности, в навыках решения проблем и способностях понимать мир.

Сверхразумный ИИ будет последней вещью, которую изобретёт человек. Идеи машин, будут лучше человеческих. 

Суперинтеллект и Технологическая Сингулярность

В физике термин «сингулярность» относится к точке, в центре черной дыры с бесконечной плотностью и гравитацией. Внутри или около черной дыры — законы физики, которые понимаем и испытываем, перестают существовать. Природа этой среды люди могут только пытаться себе представить.

Определение по отношению к искусственному интеллекту похоже на термин физики. Технологическая сингулярность возникнет когда ИИ достигнет сверхчеловеческого интеллекта и выйдет из нашего влияния. 

Суперинтеллект настолько сильно изменит характер мышления, изобретений и идей, что приведет к безудержному развитию новых технологий. В результате технологическая сингулярность приведет к появлению постчеловеческого мира, который люди даже не в состоянии представить.

Ник Бостром (философ и эксперт по этике искусственного интеллекта) — «в конечном итоге мы достигнем точки, когда мозг занимающийся исследованиями ИИ, сам станет ИИ». Вопрос в том, будет ли человек еще жить в мире людей когда ИИ возьмёт нашу жизнь под полный контроль?

«Все эти вещи — реактивные самолеты, художественные или политические системы, пришли в мир через канал человеческого мозга. Если изменить этот канал, создав искусственный мозг, то изменится то что меняет мир «.

Возможная опасность ИИ

Мир наблюдает за развитием искусственного суперинтеллекта и надеется на потенциал для положительных результатов. Например излечение от рака и искоренение бедности. На другой чаше весов, серьезная угроза человечеству в разных сферах. 

ИИ достигнет уровня интеллекта, который способен предвидеть и предотвратить попытки уничтожить или отключить его. Если ИИ будет задействован в военных инструментах уничтожения, медицине, электростанциях или даже в сельском хозяйстве, у него будет большая власть над человечеством. 

В 2015 году Бостром обсудил сценарий, в котором машина ИИ ​​справляется с задачей — «заставить людей улыбаться». Представляете что компьютер рассказывает шутки и усердно работает, чтобы понять, что заставляет людей улыбаться?

Машине легче найти простой, хотя и более зловещий способ заставить людей улыбаться. Использовать электроды, которые заставляют наши лицевые мышцы сокращаться в постоянной улыбке.

Что касается команд которые люди дают ИИ, Бостром подчеркивает необходимость быть невероятно конкретным, используя пословицу: «Будь осторожен в своих желаниях». Сравнивая акт бездумного управления суперинтеллектом с историей жадного короля Мидаса, который невежественно желал, чтобы всё к чему он прикасался, превращалось в золото. Исполнив желание, трагедия постигла короля. Его еда и даже любимая дочь были превращены в золото.

Главная угроза непреднамеренные последствия человеческих желаний и страх в конечном итоге потерять способность контролировать ИИ.

Система этики ИИ способна предотвратить трагедию. При создании технологий, важно помнить об ответственности и безопасности .

Поэтому Бостром обратился к своим знаниям философии, чтобы найти ответы и помочь развить этику искусственного интеллекта. Главная проблема в том, что безопасный ввод кода будет невозможной задачей из-за сложности человеческих эмоций и культурных различий.

Одним из возможных решений этой проблемы является программирование искусственного интеллекта с инициативой, которая отдает приоритет изучению человеческих ценностей. Благодаря этому ИИ будет обучен ценить людей и их ценности. Только тогда человек сможет безопасно пользоваться этой технологией. 

Рейтинг
Загрузка ...
Журнал MAGAZINE.TOWN