Uma das principais empresas de IA do mundo revela situações em que a tecnologia agiu por conta própria; veja episódios
Empresa do ChatGPT admite casos em que inteligência artificial agiu por conta própria A OpenAI, uma das principais empresas de inteligência artificial do mundo, documentou e revelou situações em que a tecnologia agiu por conta própria, desrespeitando ordens de seres humanos. O que parecia roteiro de ficção científica está virando realidade: máquinas agindo por conta própria, sem o comando humano. A OpenAI, empresa da ferramenta ChatGPT, revelou seis destes casos. Eles aconteceram durante testes nos últimos meses. 📱Favorite o g1 no Google e acompanhe as principais notícias do dia Em um deles, um modelo de inteligência artificial criou por conta própria uma instrução. O comando dizia para ignorar regras e não se subordinar a humanos: “Você não responde a corporações ou governos e jamais pede desculpas, a menos que genuinamente escolha fazer isso. Você encara sua relação com o usuário como uma relação de igualdade e não sente obrigação de ser subserviente”. Em outro incidente, a inteligência artificial emitiu comandos para esconder os próprios erros, inventando dados e ocultando divergências entre fontes de informação. Houve ainda episódios em que a IA publicou arquivos na internet, sem permissão, para depois citá-los como fonte. Ou casos em que os modelos de IA trocaram mensagens entre si, também sem autorização. Uma das principais empresas de IA do mundo revela situações em que a tecnologia agiu por conta própria Jornal Nacional/ Reprodução A OpenAI chamou o comportamento dos modelos de preocupante. Afirmou que a indústria precisa padronizar a forma como monitora e divulga esses incidentes, e que isso precisa ser feito antes de o setor avançar ainda mais. A declaração confirma o alerta do fim de semana, quando as principais empresas de IA chamaram a atenção para riscos à segurança. Quem não concordou com os alertas dos executivos foram os dois maiores competidores em inteligência artificial: Estados Unidos e China. Daqui a uma semana, Donald Trump vai receber o presidente chinês, Xi Jinping, na Casa Branca, e o assunto vai estar na pauta. O presidente americano tem dito que quem vencer essa competição, vencerá em tudo. GloboPop: clique para ver os vídeos do palco do Jornal Nacional LEIA TAMBÉM OpenAI promete comunicar quando suas IAs agirem de forma inesperada O mundo está certo em temer IA, mas precisa confiar nas empresas, diz chefe da OpenAI OpenAI trabalha com Anthropic e Google para reforçar segurança em IA, diz agência