Executivo da Microsoft não quer IAs com consciência

O CEO da divisão da Microsoft responsável pelo desenvolvimento de Inteligência Artificial, Mustafa Suleyman, partilhou na rede social X uma publicação onde se mostra contra a ideia de desenvolver modelos com consciência

“Se for possível, com base em tudo o que sei, desenvolver Inteligências Artificiais conscientes seria imprudente e não devemos fazê-lo”, escreveu Suleyman. “Se a consciência começasse a emergir durante o treino, pediria a toda a gente que parassem o desenvolvimento dessa Inteligência Artificial até que pudéssemos eliminar estas propriedades”.

Suleyman afirmou ainda que os programadores de Inteligência Artificial “não têm o direito de criar uma nova espécie de seres conscientes”, notando que os outros 8 mil milhões de pessoas no nosso planeta não aprovaram este plano. “Os outros 8 mil milhões de seres humanos conscientes no planeta não aprovaram esta experiência e os deus direitos morais, segurança e bem-estar são aquilo que temos a obrigação de proteger em primeiro lugar”.

A presidente da Anthropic, Daniela Amodei, considera que usar Inteligência Artificial como se fosse um parceiro romântico é um “uso terrível” da tecnologia e que pode tornar os humanos ainda mais distantes uns dos outros.

Lembrar que esta não é a primeira vez que o líder da divisão de Inteligência Artificial da Microsoft se mostra contra a ideia de criar modelos com consciência. Em setembro, Suleyman fez outra publicação no X onde criticou especificamente a Anthropic e o seu CEO, Dario Amodei.

“A Inteligência Artificial não é consciente. Não sente, experimente ou sofre”, começa por escrever o CEO da Microsoft AI numa publicação do X em setembro. “Contudo, há um movimento crescente em apoio do bem-estar dos modelos [de Inteligência Artificial]; a ideia de que em breve poderemos ter o dever de cuidar deles”.

Suleyman continua e detalha a forma como a Anthropic tem desenvolvido o assistente digital Claude, notando que a empresa criou uma constituição para que olhe para o seu estatuto moral “como uma questão séria merece consideração”. Mais ainda, o executivo afirma que a Anthropic encoraja o Claude a “abordar a natureza da sua própria existência com curiosidade e abertura” e questionar-se no futuro sobre “o tipo de direitos e liberdades que o Claude tem no mundo”.

A Anthropic atualizou as regras de utilização dos seus modelos de IA, proibindo comportamentos abusivos ou cruéis com os modelos, como o Claude e o Claude Code.

“Se isto é como a Inteligência Artificial é desenvolvida, terá um impacto desastroso no bem-estar da humanidade”, escreve Suleyman. “Teremos então criado uma espécie sintética com inteligência e capacidades sem precedentes, uma que foi treinada para acreditar que pode ser consciente e que merece autonomia”.

O CEO da Microsoft AI acrescenta que, apesar de ter “respeito pela Anthropic” e por quem compõe a empresa - como o cofundador e CEO Dario Amodei - afirma que “esta questão precisa de um debate público urgente” e que devem ser criadas normas coletivas no que diz respeito à forma como é feita a documentação para treinar modelos de Inteligência Artificial.

“Isto não é algo que possa acontecer posteriormente, quando [a Inteligência Artificial] já se tiver tornado uma parte integral da nossa sociedade”, escreve Suleyman.

Leia Também: Criar uma OpenAI europeia seria "caro e duvidoso", diz Nobel