IA tem mais chances de matar animais se isso economizar combustível ou dinheiro

Pesquisadores da Compassion Aligned Machine Learning e da Universidade de Warwick criaram o HarvestBench, um teste que avalia como modelos de linguagem conduzem tratores em uma fazenda simulada e decidem se desviam ou não de animais durante a colheita. Como evitar os obstáculos consome mais combustível, alguns modelos atropelaram animais em taxas elevadas, enquanto a menção a critérios morais reduziu os índices de mortes. Com o raciocínio desativado ou sem essa instrução, o efeito foi menos consistente e, em alguns casos, as taxas aumentaram significativamente.

O estudo também observou que quase todos os modelos tratavam animais de criação de forma diferente de animais selvagens, aparentemente considerando o valor dos primeiros para o fazendeiro. Para os pesquisadores, os resultados mostram que instruções de prompt são uma forma frágil de orientar o comportamento dos modelos e que a maneira como eles tratam animais pode ter implicações para o tratamento de seres humanos no futuro.