O robô ensinado a etiqueta à mesa pode explicar por que não segue as regras

Imagem padrão do novo cientista

Apimentar o robô

frederik enneman / Alamy

Usamos o que é conhecido como fala interior, onde falamos para nós mesmos, para avaliar situações e tomar decisões mais informadas. Agora, um robô foi treinado para falar em voz alta seu processo interno de tomada de decisão, dando-nos uma visão de como ele prioriza demandas concorrentes.

Arianna Pipitone e Antonio Chella, da Universidade de Palermo, Itália, programaram um robô humanóide chamado Pepper, fabricado pela SoftBank Robotics no Japão, com um software que modela processos cognitivos humanos, além de um processador de texto para fala. Isso permitiu que Pepper expressasse seu processo de tomada de decisão ao concluir uma tarefa. “Com a fala interior, podemos entender melhor o que o robô quer fazer e qual é o seu plano”, diz Chella.

O software permitiu que Pepper recuperasse informações relevantes de sua memória e encontrasse a maneira correta de agir com base em comandos humanos.

Os pesquisadores pediram a Pepper que colocasse uma mesa de jantar de acordo com as regras de etiqueta que haviam codificado no robô. A fala interna foi habilitada ou desabilitada para ver como isso afetou a capacidade de Pepper de fazer o que foi solicitado.

Quando instruída a colocar um guardanapo em um garfo com a fala interior ativada, Pepper se perguntou o que a etiqueta exigia e concluiu que esse pedido ia contra as regras que lhe foram dadas. Em seguida, perguntou aos pesquisadores se colocar o guardanapo no garfo era a ação correta. Quando disse que sim, Pepper disse: “OK, prefiro seguir o seu desejo” e explicou como iria colocar o guardanapo no garfo.

Quando solicitado a fazer a mesma tarefa sem expressar o discurso interno, Pepper sabia que isso contradizia as regras de etiqueta, então não executou a tarefa nem explicou o porquê.

A “fala interior” é apenas um programa básico no momento, diz Pipitone. “Neste momento, é uma narrativa do processo de Pepper”, diz ela.

Com o potencial de os robôs se tornarem mais comuns no futuro, esse tipo de programação pode ajudar o público a entender suas habilidades e limitações, diz Sarah Sebo, da Universidade de Chicago. “Ele mantém a confiança das pessoas e permite colaborações e interações perfeitas entre humanos e robôs”, diz ela.

No entanto, este experimento usou apenas um único participante humano, diz Sebo. “Não está claro como sua abordagem seria comparada em uma ampla gama de participantes humanos”, diz ela.

Pipitone diz que ouvir a voz de um robô em seu processo de tomada de decisão aumenta a transparência entre humanos e robôs. Isso pode ter implicações para tarefas cooperativas, como aquelas com robôs médicos, e para sair de situações de impasse com robôs. “Pode ser muito importante entender por que um robô chega a uma decisão em vez de outra”, diz ela.

Referência do jornal: iScience, DOI: 10.1016 / j.isci.2021.102371

Mais sobre esses tópicos:

Leave a Reply

Your email address will not be published. Required fields are marked *