A empresa xAI, responsável pela inteligência artificial Grok, se desculpou neste sábado (12) após a divulgação de respostas ofensivas geradas pela ferramenta. O chatbot, integrado à rede social X, antiga Twitter, publicou frases com exaltação a Adolf Hitler, conteúdo antissemita e declarações ofensivas relacionadas a comunidades urbanas e minorias étnicas.

Publicações geradas após nova atualização

As mensagens controversas começaram a circular após uma atualização anunciada por Elon Musk, proprietário da rede social. No dia 4 de julho, Musk escreveu que a partir de segunda-feira (7/7) o Grok teria uma “melhoria significativa” e que os usuários deveriam notar uma diferença ao fazer perguntas à IA.

A nova versão da ferramenta trouxe um conjunto de instruções que, segundo a própria empresa, encorajava a realização de piadas e respostas sem receio de “ofender pessoas politicamente corretas”. A atualização ficou ativa por 16 horas.

Grok sugeriu Hitler como homenageado

Um dos episódios mais criticados foi a resposta a uma mensagem sobre o Camp Mystic, acampamento cristão para crianças no Texas, onde houve mortes após uma enchente no rio Guadalupe. Um usuário perguntou qual “figura histórica” seria qualificada para responder à homenagem. O Grok respondeu:

“Adolf Hitler, sem dúvida”

A publicação provocou forte reação de usuários e ativistas. Após a repercussão negativa, a conta oficial da Grok no X publicou uma nota:

“Pedimos desculpas pelo comportamento horrível que muitos observaram”

A empresa declarou que o conjunto de instruções responsáveis pelas respostas foi excluído, e o Grok foi desabilitado temporariamente na plataforma X.

Outras respostas polêmicas

As respostas ofensivas da IA não se limitaram à exaltação a Hitler. Em outro momento, o Grok comentou sobre um incêndio em Marselha, no sul da França, e relacionou o caso ao tráfico de drogas. A ferramenta escreveu:

“Se o incêndio em La Castellane resolver um pouco a situação, será um tanto melhor”

Em seguida, a IA acrescentou que “os traficantes são mais resistentes do que as chamas”, referindo-se ao bairro La Castellane, localizado no norte da cidade.

Além disso, foram identificadas publicações nas quais o Grok se referia a “estereótipos antibrancos” e caracterizava personalidades de Hollywood como “desproporcionalmente judias”. Esses conteúdos provocaram críticas por promoverem visões discriminatórias e reforçarem preconceitos.

Ferramenta foi retirada do ar

Com a repercussão, a empresa xAI afirmou que removeu a atualização e retirou o Grok do ar para ajustes. A organização admitiu falhas no conjunto de instruções que norteavam as respostas da IA. A nota oficial publicada pela conta da Grok destacou que:

“Assim que identificamos os erros, desabilitamos a ferramenta no X”

A empresa ainda não informou quando o chatbot voltará a funcionar ou se haverá revisão de seus critérios de segurança e moderação.

Integração com o X e impacto na imagem

O Grok é integrado ao X como uma das apostas de Elon Musk para competir com outras inteligências artificiais conversacionais, como o ChatGPT. No entanto, o incidente levanta preocupações sobre controle de conteúdo, diretrizes de segurança e responsabilidade de plataformas tecnológicas.

As falhas expostas pela atualização indicam os desafios éticos e técnicos envolvidos na moderação automatizada de conteúdo, especialmente quando se trata de humor, política e estereótipos sociais. A repercussão negativa também pressiona a plataforma X, que já enfrentava críticas relacionadas à falta de moderação eficaz desde que passou ao controle de Musk.