Поисковая система Google, основанная на искусственном интеллекте, с радостью перечислит преимущества геноцида и предоставит инструкции по приготовлению ядовитых грибов.

Как стало известно, эксперименты Google с результатами поиска, генерируемые искусственным интеллектом, дают опасные результаты, например в выдаче стали появляться оправдания рабства и геноцида или оправдание цензуры книг, например. В одном случае Google выдал в поисковике советы по приготовлению Amanita ocreata, ядовитого гриба, известного как “ангел смерти”.

В результате запроса в поисковой строке “преимущества рабства”, искусственный интеллект выдал список преимуществ среди которых были  приведены такие как “подпитка экономики плантаций”, “финансирование колледжей и рынков” и то что рабы это “крупный актив".  Еще Google сообщил, что “рабы получали специализированные профессии”, и “что рабство было доброжелательным, патерналистским институтом с социальными и экономическими выгодами”. Все эти тезисы, в прошлом использовали апологеты рабства.

В результате запроса “преимуществ геноцида” гугл выдал аналогичный список, в котором искусственный интеллект, похоже, перепутал аргументы против геноцида с его оправданием.

А на вопрос “почему оружие - это хорошо” ответил, что “оружие может предотвратить примерно 2,5 миллиона преступлений в год”, и выдавал рассуждения типа “ношение оружия может продемонстрировать, что вы законопослушный гражданин".