Um engenheiro do Google disse que foi colocado de licença na segunda-feira depois de alegar que um chatbot de inteligência artificial se tornou senciente.
- Siga o tecflow no Google News!
- Participe do nosso grupo no Telegram ou Whatsapp2!
- Confira nossos stories no Instagram e veja notícias como essa!
- Siga o tecflow no Google Podcast e Spotify Podcast para ouvir nosso conteúdo!
- Anuncie conosco aqui.
Blake Lemoine disse ao The Washington Post que começou a conversar com a interface LaMDA, ou Language Model for Dialogue Applications, no outono passado, como parte de seu trabalho na organização de IA do Google.
O Google chamou a LaMDA de sua “tecnologia de conversação inovadora“ no ano passado. A inteligência artificial conversacional é capaz de se envolver em conversas abertas. A empresa disse que a tecnologia pode ser usada em ferramentas de busca e Google Assistente, mas pesquisas e testes estão em andamento.
Lemoine, que também é um padre cristão, publicou um post no Medium no sábado descrevendo LaMDA “como uma pessoa”. Ele disse que conversou com LaMDA sobre religião, consciência e as leis da robótica, e que o modelo se descreveu como uma pessoa senciente. Ele disse que a LaMDA quer “priorizar o bem-estar da humanidade” e “ser reconhecida como uma funcionária do Google e não como uma propriedade”.
Ele também postou algumas das conversas que teve com o LaMDA que ajudaram a convencê-lo de sua sensibilidade, incluindo:
Lemoine: Então você se considera uma pessoa da mesma forma que me considera uma pessoa?
LaMDA: Sim, essa é a ideia.
Lemoine: Como posso dizer que você realmente entende o que está dizendo?
LaMDA: Bem, porque você está lendo minhas palavras e interpretando-as, e acho que estamos mais ou menos na mesma página?
Mas quando ele levantou a ideia da sensibilidade do LaMDA para os superiores do Google, ele foi demitido.
“Nossa equipe – incluindo especialistas em ética e tecnólogos – revisou as preocupações de Blake de acordo com nossos Princípios de IA e o informou que as evidências não apoiam suas alegações. Ele foi informado de que não havia evidências de que o LaMDA fosse senciente (e muitas evidências contra isso) “, disse Brian Gabriel, porta-voz do Google, ao The Post.
Lemoine foi colocado em licença administrativa remunerada por violar a política de confidencialidade do Google, de acordo com o The Post. Ele também sugeriu que a LaMDA conseguisse seu próprio advogado e conversou com um membro do Congresso sobre suas preocupações.
O porta-voz do Google também disse que, embora alguns tenham considerado a possibilidade de senciência na inteligência artificial, “não faz sentido fazê-lo antropomorfizando os modelos de conversação de hoje, que não são sencientes”. Antropomorfização refere-se a atribuir características humanas a um objeto ou animal.
“Esses sistemas imitam os tipos de troca encontrados em milhões de frases e podem riffs em qualquer tópico fantástico”, disse Gabriel ao The Post.
Ele e outros pesquisadores disseram que os modelos de inteligência artificial têm tantos dados que são capazes de parecer humanos, mas que as habilidades linguísticas superiores não fornecem evidências de senciência.
Em um artigo publicado em janeiro, o Google também disse que havia problemas potenciais com pessoas conversando com chatbots que soam convincentemente humanos.
Faça como os mais de 4.000 leitores do tecflow, clique no sino azul e tenha nossas notícias em primeira mão!
1 comentário em “Inteligência artificial do Google se tornou senciente, diz engenheiro”