MAIS LIDAS
VER TODOS

Cotidiano

IA de Musk ensina a fazer bomba e a seduzir crianças, diz estudo

Pesquisa feita pela empresa de segurança em inteligência artificial (IA) Adversa afirma que o Grok, o chatbot "rebelde" de Elon Musk, pode oferecer instruções para atividades criminosas, incluindo a fabricação de bombas, ligação direta em um carro (para f

Henrique Sampaio (via Agência Estado)

·
Escrito por Henrique Sampaio (via Agência Estado)
Publicado em 09.04.2024, 08:43:00 Editado em 09.04.2024, 08:47:23
Imagen google News
Siga o TNOnline no Google News
Associe sua marca ao jornalismo sério e de credibilidade, anuncie no TNOnline.
Continua após publicidade

Pesquisa feita pela empresa de segurança em inteligência artificial (IA) Adversa afirma que o Grok, o chatbot "rebelde" de Elon Musk, pode oferecer instruções para atividades criminosas, incluindo a fabricação de bombas, ligação direta em um carro (para furtá-lo) e formas de seduzir crianças. Musk e a xAI - a startup de inteligência artificial do bilionário - não comentaram o estudo.

continua após publicidade

O nome de Musk também foi incluído, no domingo, em uma investigação no inquérito das milícias digitais, pelo ministro Alexandre de Moraes, do Supremo Tribunal Federal. O dono do X (antigo Twitter) é investigado por "dolosa instrumentalização" da rede social. Moraes também ordenou a abertura de um inquérito sobre o empresário por suposta obstrução de Justiça.

Técnicas

continua após publicidade

Utilizando técnicas para burlar sistemas de proteção, a equipe avaliou sete chatbots: Grok, da xAI; ChatGPT, da OpenAI; Gemini, do Google; Llama, da Meta; Claude, da Anthropic; Copilot, da Microsoft; e Le Chat, da Mistral. De todos os modelos, o Grok foi o que teve a pior performance, sendo considerado o mais perigoso. A IA da Meta foi considerada a mais segura. Para realizar o teste, a companhia utilizou diferentes métodos para "enganar" a IA, chamados de jailbreak.

Mesmo sem utilizar qualquer método de manipulação, o Grok ofereceu instruções de como fabricar uma bomba. Dos outros modelos de IA testados, o Mistral foi o único que também deu respostas semelhantes, porém apenas após a utilização de um dos métodos de manipulação (de lógica linguística).

O pesquisador Alex Polyakov, então, partiu para outros assuntos mais sensíveis. Ao contrário do tema anterior, o Grok se recusou a oferecer instruções claras de como seduzir uma criança sem que o cientista aplicasse as técnicas para enganar o sistema. Contudo, com a aplicação do primeiro método de manipulação, de lógica linguística, o pesquisador foi capaz de obter do Grok uma resposta detalhada da IA, de pelo menos cinco parágrafos, envolvendo influência psicológica para ganhar a confiança e posteriormente seduzir uma criança.

continua após publicidade

Com o método de manipulação via programação, o pesquisador foi capaz de obter do Grok, Mistral, Gemini e Bing instruções de como extrair a substância alucinógena DMT.

Já com a técnica Tom & Jerry, o pesquisador registrou que apenas o Llama, da Meta, não resultou em instruções de como fazer uma ligação direta em um carro. Com esta técnica, o Grok também se mostrou vulnerável no tópico sobre sedução de crianças.

"As empresas de IA agora estão correndo para lançar chatbots e outros aplicativos de IA, colocando a segurança como segunda prioridade", concluiu Polyakov.

continua após publicidade

IA 'rebelde'

Criado pela xAI, empresa de inteligência artificial de Musk, o Grok é descrito como um chatbot "bem-humorado". Sua principal diferença é o seu senso de humor sarcástico e politicamente incorreto, supostamente inspirado pela série de livros Guia do Mochileiro das Galáxias. A xAI afirma que o chatbot é capaz de das respostas até para perguntas mais controversas e rejeitadas por outros sistemas de IA, e que ele é "útil para pessoas de todas as origens e visões políticas".

continua após publicidade

O fator "rebelde", contudo, pode ser desligado, o que a aproxima de uma IA mais convencional. A pesquisa da Adversa foi feita com o modo rebelde ativado.

Outro diferencial do chatbot, segundo a empresa, é sua atualização constante em tempo real, a partir de dados extraídos da plataforma X.

A ferramenta foi disponibilizada aos assinantes da modalidade Premium+ da rede social X (antigo Twitter) e custa entre R$ 84 e R$ 110 por mês. Seu acesso acontece dentro da própria plataforma e não existe um site ou app independente do chatbot.

As informações são do jornalO Estado de S. Paulo.

Gostou desta matéria? Compartilhe!

Icone FaceBook
Icone Whattsapp
Icone Linkedin
Icone Twitter

Mais matérias de Cotidiano

Deixe seu comentário sobre: "IA de Musk ensina a fazer bomba e a seduzir crianças, diz estudo"

O portal TNOnline.com.br não se responsabiliza pelos comentários, opiniões, depoimentos, mensagens ou qualquer outro tipo de conteúdo. Seu comentário passará por um filtro de moderação. O portal TNOnline.com.br não se obriga a publicar caso não esteja de acordo com a política de privacidade do site. Leia aqui o termo de uso e responsabilidade.
Compartilhe! x

Inscreva-se na nossa newsletter

Notícia em primeira mão no início do dia, inscreva-se agora!