O Facebook fecha o sistema AI depois que os bots criam o próprio idioma

Dias depois que o CEO da Tesla, Elon Musk, disse que a inteligência artificial (AI) era o maior risco, o Facebook encerrou um dos seus sistemas de AI depois que os chatbots começaram a falar em seu próprio idioma desafiando os códigos fornecidos.
De acordo com um relatório no Tech Times no domingo, o gigante das redes sociais teve que mostrar o sistema AI que seus pesquisadores estavam trabalhando “porque as coisas ficaram fora de controle”.

A AI não começou a desligar computadores em todo o mundo ou algo do tipo, mas parou de usar o inglês e começou a usar um idioma que criou “, observou o relatório.

Inicialmente, os agentes da AI usaram o inglês para conversar uns com os outros, mas depois criaram um novo idioma que apenas os sistemas de AI podiam entender, desafiando sua finalidade.

Isso levou os pesquisadores do Facebook a desligar os sistemas de AI e, em seguida, forçá-los a falar uns com os outros apenas em inglês.

Em junho, pesquisadores do Facebook AI Research Lab (FAIR) descobriram que enquanto eles estavam ocupados tentando melhorar os chatbots, os “agentes de diálogo” estavam criando seu próprio idioma.

Logo, os bots começaram a desviar-se das normas de script e começaram a se comunicar em uma linguagem inteiramente nova que eles criaram sem entrada humana, disseram os relatórios da mídia.

Usando algoritmos de aprendizado de máquina, os “agentes de diálogo” foram deixados para conversar livremente na tentativa de fortalecer suas habilidades conversacionais.

Os pesquisadores também descobriram que esses bots eram “negociadores incrivelmente astutos”.

“Depois de aprender a negociar, os bots confiaram na aprendizagem mecânica e estratégias avançadas na tentativa de melhorar o resultado dessas negociações”, afirmou o relatório.

“Ao longo do tempo, os bots se tornaram bastante habilidosos e até começaram a fingir interesse em um item para” sacrificá-lo “em uma etapa posterior na negociação como um compromisso falso”, acrescentou.

Embora isso pareça ser um grande salto para a AI, vários especialistas, incluindo o professor Stephen Hawking, criaram receios de que os humanos, que são limitados pela lenta evolução biológica, poderiam ser substituídos pela AI.

Outros, como o Elon Musk de Tesla, o filantropo Bill Gates e o ex-fundador da Apple, Steve Wozniak, também expressaram suas preocupações sobre a localização da tecnologia AI.

Curiosamente, este incidente aconteceu apenas alguns dias depois de uma cuspa verbal entre o CEO do Facebook e Musk, que trocou palavras difíceis durante um debate sobre o futuro da AI.

“Eu falei com Mark sobre isso (AI). Sua compreensão sobre o assunto é limitada, “Musk tweetou na semana passada.

O tweet veio depois de Zuckerberg, durante um lançamento do Facebook no início deste mês, criticou Musk por argumentar que o cuidado e a regulamentação eram necessários para salvaguardar o futuro se a AI se tornar dominante.

“Eu acho que as pessoas que são negativas tentam aumentar esses cenários do dia do juízo final  –  eu simplesmente não entendo isso. É realmente negativo e, de certa forma, acho que é bastante irresponsável “, disse Zuckerberg.

Musk tem falado com freqüência na AI e chamou seu progresso do “maior risco que enfrentamos como uma civilização”.

“AI é um caso raro em que precisamos ser proativos na regulamentação em vez de reativos porque, se somos reativos na regulação da IA, é muito tarde”, disse ele.

Canal theevolutiontech

Apenas mais um fã da grande rede , um maluco pela internet que passa grande parte do tempo conectado sempre a procura de novidades online , e sempre achando já que a rede é movida por novidades ...

Deixe uma resposta