Компания в сфере искусственного интеллекта xAI, принадлежащая Илону Маску, заявила о «несанкционированном вмешательстве» в работу своего чат-бота Grok после того, как он начал распространять противоречивые утверждения о «геноциде белых» в Южной Африке. Об этом сообщает Bloomberg.
На этой неделе бот неожиданно начал упоминать о так называемом «геноциде белых» в ответах на запросы, которые не связаны с темой. Как вот в вопросах о корпоративном программном обеспечении, спорте или собаках.
В частности, в одном из ответов Grok написал, что не уверен насчет ситуации в ЮАР: мол, часть источников отрицает существование «геноцида белых», а некоторые — наоборот, настаивают на этом.
В xAI заявили, что причиной стали сторонние изменения, которые обошли процедуру внутреннего согласования.
«Наш процесс проверки изменений к запросам был обойден. Мы уже отменили несанкционированные модификации и внедрим дополнительные предохранители», — говорится в заявлении компании.
В xAI пообещали обнародовать системные запросы Grok на GitHub для публичного анализа. Также создадут команду круглосуточного мониторинга, которая будет реагировать на спорные ответы ИИ.
Илон Маск, который вырос в Южной Африке, ранее высказывал ложную теорию заговора о том, что существует преднамеренный план, направленный на истребление белых людей в этой стране. Недавно США предоставили статус беженца белым южноафриканцам, поскольку президент США Дональд Трамп без доказательств утверждал, что эта группа стала жертвой «геноцида».
