De acordo com pt.wedoany.com-A agência de tecnologia digital das Nações Unidas lança uma nova iniciativa para aumentar a confiança em agentes de inteligência artificial. Com a crescente autonomia dos sistemas de IA, questões de responsabilidade e supervisão humana ganham destaque, e a iniciativa visa enfrentar esses desafios.

Os agentes de IA são sistemas de inteligência artificial de nova geração que podem executar tarefas de forma independente em nome dos utilizadores, como agendamento, compras e processos empresariais complexos. A União Internacional de Telecomunicações (UIT) destaca que, embora esses agentes possam aumentar a produtividade, também apresentam riscos de se passar por humanos e tomar decisões não autorizadas.

Para mitigar esses riscos, a UIT anunciou a criação de um grupo de trabalho durante a Cimeira "IA para o Bem" (AI for Good Summit), realizada em Genebra. Este grupo desenvolverá um quadro para garantir que os agentes de IA sejam identificáveis, confiáveis e sujeitos a um controlo humano significativo, especialmente em áreas sensíveis como transações financeiras e infraestruturas críticas.

Debora Comparin, copresidente do grupo de trabalho, afirmou que os agentes de IA em breve negociarão, transacionarão e tomarão decisões em nome dos humanos, sendo necessário estabelecer uma base internacional comum para determinar a identidade dos agentes e como e quando confiar neles. O grupo, composto por especialistas em tecnologia, políticas e direito, realizará a sua primeira reunião em novembro em Paris e a segunda em janeiro em Genebra.