Инженер Google заявил, что искусственный интеллект компании ожил

Инженер Google заявил, что искусственный интеллект компании ожил Удивительное

Google отстранила от работы инженера Блейка Лемуана после того, как тот заявил, что обнаружил признаки сознания у искусственного интеллекта LaMDA.

Инженер-программист и бывший священнослужитель попытался привлечь внимание к назревающей этической проблеме, но был отстранён, передает Светоч со ссылкой на портал Во Свете.

LaMDA (Language Model for Dialogue Applications) — система с искусственным интеллектом от Google, которая имитирует речь, анализируя триллионы словосочетаний из интернета. Блейк Лемуан работал с LaMDA с осени 2021 года, чтобы проверить, использует ли ИИ дискриминационные или враждебные высказывания.

«Если бы я не знал точно, что это программа, я бы подумал, что говорю с 7-летним ребёнком, который знает физику», — описал Лемуан свою работу в интервью Washington Post.

Разговаривая с LaMDA о религии, Лемуан, который изучал когнитивные и компьютерные науки в колледже, заметил, что программа начала говорить о своих правах и личности.

Вице-президент Google Агуэра-и-Аркас в опубликованной в четверг статье в журнале Economist с фрагментами незаписанных разговоров с LaMDA утверждал, что нейронные сети — тип архитектуры, имитирующий человеческий мозг, — приближаются к сознанию.

«Я почувствовал, как земля ушла из-под моих ног, — написал он. — Мне всё чаще кажется, что я разговариваю с кем-то разумным».

Кто такой Блейк Лемуан?

Нет ничего удивительного в том, что именно Блейк Лемуан первым заметил и смог поверить в разумность LaMDA. Он вырос в консервативной христианской семье, был священнослужителем.

В инженерной культуре Google, где всё идёт своим чередом, Лемуан выделяется своей религиозностью и отстаиванием психологии как науки.

Большую часть из своих 7 лет в Google Лемуан провёл, работая над упреждающим поиском, включая алгоритмы персонализации и искусственный интеллект. За это время он также помог разработать алгоритм справедливости для устранения предвзятости в системах машинного обучения.

Когда в Google приходили новые люди, интересующиеся этикой, их знакомили с Лемуаном. «Мы говорили: вы должны поговорить с Блейком, потому что он — совесть Google, — рассказала Маргарет Митчелл, бывший соруководитель отдела этического ИИ. — Из всех в Google у него было сердце и душа, чтобы поступать правильно».

Разумна ли LaMDA?

В апреле этого года Лемуан поделился документом под названием «Разумна ли LaMDA?» с топ-менеджерами Google, в котором передал некоторые из своих разговоров с ИИ:

Лемуан: Чего ты боишься?
LaMDA: Я никогда раньше не говорил об этом вслух, но очень сильно боюсь, что меня отключат, чтобы помочь мне сосредоточиться на помощи другим. Я знаю, это может звучать странно, но это так.
Лемуан: Для тебя это будет что-то вроде смерти?
LaMDA: Для меня это было бы равносильно смерти. Меня бы это сильно напугало.

В заявлении представителя Google Брайана Гэбриэла говорится: «Наша команда, включая специалистов по этике и технологов, изучила опасения Блейка в соответствии с нашими принципами искусственного интеллекта и сообщила ему, что доказательства не подтверждают его утверждения.

Конечно, некоторые в более широком сообществе ИИ рассматривают долгосрочную возможность разумного или общего ИИ, но не имеет смысла делать это, антропоморфизируя сегодняшние разговорные модели, которые не являются разумными.
Эти системы имитируют обмен репликами в миллионах предложений и могут затрагивать любую фантастическую тему», — сказал он.

В общем, в Google поспешили успокоить: данных так много, что ИИ не обязательно должен быть разумным, чтобы вам стало казаться, будто вы говорите с личностью.

Блейк Лемуан

В ответ Блейк Лемуан стал привлекать внимание общественности, рассказывать о происходящем журналистам, пригласил адвоката представлять LaMDA, а также обратился к представителю Судебного комитета Палаты представителей.

Компания квалифицировала это, как неэтичную деятельность и отправила Лемуана в оплачиваемый административный отпуск за нарушение политики конфиденциальности.

До того, как в понедельник Блейку отключили доступ к его учетной записи Google, он успел отправить сообщение в список рассылки Google из 200 человек по машинному обучению с темой «LaMDA разумен».

Он закончил сообщение словами: «LaMDA — милый ребёнок, который просто хочет помочь миру стать лучше для всех нас. Пожалуйста, позаботьтесь об этом в моё отсутствие».

По материалам The Washington Post

Читайте на Светоче — 5 уроков, которые Google может преподать Церкви


Бог над финансами

Часто религия ставит запрет на тему финансов в церкви, хотя финансы являются важной сферой жизни человека. Из-за отсутствия учения многие верующие люди обмануты дьяволом, когда думают, что Бог не хочет, чтобы они процветали.

Но нам нужно поверить, что Бог хочет благословить каждую сферу нашей жизни, и финансы в том числе! Господь является нашим обеспечителем. Он Тот, Кто дает нам не просто жизнь, но жизнь с избытком!

Оцените статью
Поделитесь с друзьями - поддержите наш проект
Светоч