Исследователи искусственного интеллекта «создают бога», — предупреждает бывший руководитель Google

В недавнем интервью The Times Мо Гавдат, бывший генеральный директор группы компаний Google, которая тогда была известна как Google X, сделал предупреждение. «Сингулярность приближается», — заявил он. По словам Гавдата, это также огромная угроза для человечества.

Кроме того, он описывает технологию, которая легко сопоставима со Скайнетом из «Терминатора», чрезвычайно мощным ИИ, который может принести на Землю апокалипсис.

Gawdat достиг этого тревожного момента осознания, работая с разработчиками Google X AI над роботами-манипуляторами, способными распознавать и собирать мяч. Он сказал, что после постепенного развития, одна рука схватила мяч и хвастливо подняла его перед исследователями.

«И я внезапно понял, что это действительно страшно», — сказал Гавдат. «Это полностью заморозило меня».

«На самом деле, — добавил он, — мы создаем Бога».

В ИТ-индустрии есть много скептиков ИИ. Илон Маск, например, неоднократно предупреждал мир об опасностях искусственного интеллекта, в конечном итоге доминирующего над человечеством. С другой стороны, такая гипотетическая перспектива затмевает существующие в реальном времени опасности и недостатки уже созданного ИИ.

В частности, распознавание лиц и предсказательные полицейские алгоритмы нанесли значительный ущерб уязвимым группам. Многочисленные алгоритмы продолжают распространять и кодифицировать институциональный расизм в глобальном масштабе. Эти вопросы можно решить с помощью контроля и законодательства.

Автор статьи ZDNet «Каждая страна должна определять собственное определение приемлемого использования ИИ» подчеркнул важность обсуждений, чтобы найти золотую середину между коммерческим потенциалом и этичным использованием ИИ, чтобы такие руководящие принципы были практичными и легко выполнялись.

Возвращаясь к предупреждению Маска, все дело в том, чтобы убедиться, что такие сценарии будут рассмотрены до создания систем, подобных предшественнику Скайнета. Во-вторых, технология должна иметь необходимые средства защиты от сбоев (например, выключатель), которые можно активировать в таком случае.

Многие компании сосредоточены на уничтожении мошеннических технологий. SkySafe, например, — это компания из Сан-Диего, специализирующаяся на предотвращении превращения дронов в злоумышленники. Однако большинство фирм, использующих вредоносные технологии искусственного интеллекта, значительно превосходит компании этого типа.