Google учит ИИ «справедливо» противостоять Трампу

Организация Project Veritas записала на скрытую камеру частный разговор главы отдела ответственных инноваций Google Джен Дженнаи (Jen Gennai) — позднее Джен уточнила, что использовала “неверные выражения”, передал CNews. Речь в записи шла о том, что перед выборами 2020 года Google тренирует свои системы ИИ таким образом, “чтобы опять не вышло как в прошлый раз с Трампом”. В частности Google предпочитает игнорировать новости из некоторых достоверных консервативных источников. В системе, кроме алгоритмов, действуют редакционные правила, которые формируют единую точку правды.

Примечание: ещё в прошлом году утекло служебное видео Google, в котором руководство переживало проигрыш президентских выборов Клинтон в 2016-м: “как мы неверно все понимали и как нам теперь достучаться до людей, чьи перспективы мы так старались лучше понять”.

Дополнительно Project Veritas утверждают, что получили подтверждения инсайдера — из документа ясно, что Google используют, то что им кажется “справедливым машинным обучением” вместо “несправедливости алгоритмов”. Например в результатах поиска Google в ответ на запрос “гендиректор” окажутся преимущественно мужчины. Это верное отображение реального распределения полов в профессии, но Google расценивает отображение, как “несправедливость” алгоритма — её требуется корректировать.

Джен Дженнаи упомянула предложение сенатора демократа Элизабет Уоррен (потенциально Уоррен один из кандидатов на пост президента, противник Трампа в 2020-м) принудительно разделить технологические платформы Google, Amazon, Facebook, Apple:

“Нынешние техногиганты имеют слишком много власти — над нашей экономикой, нашим обществом и нашей демократией. Они сровняли с землей конкурентов, использовали нашу личную информацию для получения прибыли и исказили правила против всех остальных. И в процессе нанесли ущерб малому бизнесу и подавили инновации”.

Глава отдела ответственных инноваций Google парировала:

“Элизабет Уоррен говорит, мы должны распустить Google. Вообще, я люблю ее, но она очень заблуждается, от этого все станет не лучше, а хуже, потому что на все эти более мелкие компании, у которых нет таких ресурсов, как у нас, ляжет задача предотвратить следующую ситуацию с Трампом, и похоже, что маленькие компании не смогут этого сделать”.

В прошлом Google, якобы не проводили черту, за которую ИИ нельзя заступать. Теперь у искусственного интеллекта появились принципы, “что честно, и что справедливо”.

Ноам Хомский: Почему Интернет не освободил нас. Пропаганда продолжает доминировать. → Roem.ru

P. S. Формально принципы у Google, всё же, существовали. С 2000-2001 годов слоганом корпорации была фраза “Don’t be evil”, “Не делай зла”. В октябре 2015 года слоган изменился на “Do the right thing” — “Делай правильные вещи”.

4 комментария | Подписаться на комментарии | Комментировать

Рубрика: ROEM