Если люди потеряют контроль над ИИ...
Рекламный кампейн Google на улице в Тель-Авиве. (Фото: «Nautilus»)
Крестный отец искусственного интеллекта громко уволился из компании Google и предупредил, что эта технология может кардинально изменить нашу жизнь.
75-летнему Джеффри Хинтону приписывают создание технологии, которая стала основой таких систем искусственного интеллекта, как ChatGPT и Google Bard.
В контекстеЗащита от дурака Отставание естественного интеллекта от возможностей искусственного становится все более заметным и угрожающим. Варвары с айфонами и qr-кодами, ядерными боеголовками и боевым химическим оружием гораздо более опасны, чем варвары с дубинами и лопатами.
Но лауреат премии Тьюринга теперь говорит, что частично сожалеет о своем вкладе в создание таких систем, которые, по его мнению, могут способствовать распространению дезинформации и заменять людей на рабочем месте.
Он сказал, что ему приходилось убеждать себя, чтобы не чувствовать себя слишком виноватым. «Если бы не я создал, это сделал бы кто-то другой».
Он провел параллель с Робертом Оппенгеймером, «отцом атомной бомбы», который, как сообщается, был потрясен своим изобретением и посвятил остаток своей жизни борьбе против распространения ядерного оружия.
В интервью для New York Times по поводу своей отставки Хинтон предупредил, что в ближайшем будущем искусственный интеллект заполнит интернет ложными фотографиями, видео и текстами.
Он добавил, что это будут такие качественные материалы, что обычный человек больше не сможет отличить правду от лжи.
Он также сказал, что эта технология представляет серьезную угрозу для работ, связанных с монотонными рутинными задачами, такими, как работа помощников юристов, личных помощников и переводчиков, и может перевернуть карьеры людей, занятых в этих профессиях.
Некоторые работники уже говорят, что используют технологию ИИ, чтобы выполнять некоторые задания. Например, создание маркетинговых материалов и транскрибирование встреч на Zoom, чтобы не приходилось слушать записи вручную.
«Возможно, то, что происходит в этих системах, на самом деле гораздо лучше, чем то, что происходит в человеческом мозге»,
— сказал он, объясняя свои опасения.
«Идея о том, что эта технология может стать умнее людей, была принята некоторыми людьми... Но большинство же считали, что это далекое будущее. Я тоже думал, что это произойдет через 30-50 лет или даже позже. Теперь я так не думаю.»
Ему задали вопрос, почему он участвовал в разработке потенциально опасной технологии, на что он ответил, что успокаивает себя мыслью о том, что если бы он не занимался этим, то делал бы это кто-то другой.
Он также упомянул высказывание Оппенгеймера, где тот сказал, что если видишь что-то технически прекрасное, то идешь и делаешь это.
Хинтон решил покинуть Google в прошлом месяце после десятилетия работы в технологическом гиганте в связи с распространением технологий искусственного интеллекта.
Перед уходом ученый провел долгий разговор с генеральным директором материнской компании Google Alphabet Сундаром Пичаи, хотя неясно, о чем шла речь.
Он обвинил Google в том, что компания не является «надлежащим распорядителем» технологий ИИ.
В прошлом, по его словам, компания скрывала потенциально опасные технологии, но теперь отбросив предосторожность, конкурирует с Microsoft, которая в прошлом месяце добавила ChatBot в свою поисковую систему Bing.
В контекстеИнтеллекты – естественные и искусственные Шахматы – это рефлексивная игра. Ты пытаешься понять замыслы соперника и опровергнуть их. А у компьютера замыслов нет. Он рассматривает все варианты и по какой-то формуле оценивает миллионы возможных конечных позиций.
Научный сотрудник Google Джефф Дин в своем заявлении сказал:
«Мы продолжаем придерживаться ответственного подхода к искусственному интеллекту. Мы продолжаем изучать возникающие риски, одновременно смело двигаясь вперед.»
Его предупреждение прозвучало в тот момент, когда Кремниевая долина погрузилась в гражданскую войну за развитие искусственного интеллекта - величайшие умы мира разделились во мнениях о том, возвысит он человечество или уничтожит его.
Илон Маск, сооснователь Apple Стив Возняк и покойный Стивен Хокинг являются самыми известными критиками искусственного интеллекта, которые считают, что он представляет «глубокий риск для общества и человечества» и может иметь «катастрофические последствия».
В прошлом месяце они даже призвали сделать паузу в «опасной гонке» по внедрению передовых технологий, заявив, что необходимо провести дополнительные оценки рисков.
Но Билл Гейтс, Сундар Пичаи и футурист Рэй Курцвейл находятся на другой стороне дискуссии, приветствуя технологию как «самое важное» достижение нашего времени.
Они утверждают, что ИИ может вылечить рак, решить проблему изменения климата и увеличить производительность. Ранее Хинтон не высказывал свою точку зрения по этому вопросу, говоря, что не хотел выступать, пока официально не покинет Google.
Его слава пришла к нему в 2012 году, когда в Университете Торонто в Канаде, вместе с двумя студентами, он разработал нейронную сеть, способную анализировать тысячи фотографий и самостоятельно обучаться распознавать такие объекты, как цветы, собаки и автомобили.
Позже Google потратила 44 миллиона долларов на покупку компании, созданной Хинтоном на основе этой технологии.
Среди уже доступных продвинутых систем ИИ есть ChatGPT, который уже имеет более миллиарда зарегистрированных пользователей после своего запуска в ноябре.
Данные показывают, что у него также есть до 100 миллионов активных пользователей ежемесячно.
Запущенная компанией OpenAI, расположенной в Сан-Франциско, платформа мгновенно стала успешной во всем мире.
Чат-бот представляет собой большую языковую модель, обученную на огромных объемах текстовых данных, что позволяет ему генерировать тексты, напоминающие человеческую речь в ответ на заданный запрос.
Публика использует ChatGPT для написания научных статей, книг, новостных статей, электронных писем и других текстовых работ, и хотя для многих это больше похоже на виртуального помощника, многие гениальные умы видят в этом конец человечества.
Если люди потеряют контроль над ИИ, то он будет считаться достигнувшим сингулярности, что означает, что он превзошел человеческий интеллект и имеет независимое мышление.
Искусственный интеллект больше не будет нуждаться в людях или прислушиваться к ним, что позволит ему красть ядерные коды, создавать пандемии и разжигать мировые войны.
Основатель DeepAI Кевин Барагона, подписавший письмо, сказал DailyMail.com:
«Это почти сродни войне между шимпанзе и людьми. Люди, очевидно, победят, потому что мы гораздо умнее и можем использовать более продвинутые технологии для победы. Если мы будем как шимпанзе, то искусственный интеллект уничтожит нас или мы станем его рабами.»
* * *
Редакция
«7 дней»