Especialistas renomados em Inteligência Artificial apelam aos governos mundiais e aos gigantes da tecnologia para que tomem medidas agora em relação aos riscos da IA.
“Provavelmente nenhum de nós terá emprego”, afirmou Elon Musk sobre IA ao falar remotamente numa importante conferência de tecnologia em Paris, no dia 23 de maio. O bilionário não tem vergonha de se referir à IA como seu maior medo. Poucas horas antes, no AI Safety Summit em Seul, no dia 21 daquele mês, 16 empresas encabeçadas pelo Google, Meta e Microsoft comprometeram-se a desenvolver IA com segurança. Esta declaração foi apoiada por 10 países e pela União Europeia (UE).
“Estamos assistindo a avanços tecnológicos que mudam vidas… E a novos riscos que ameaçam vidas – desde a desinformação à vigilância em massa e à perspectiva de armas autônomas letais”, comentou o Secretário-Geral da ONU, António Guterres, no Summit global.
Você diz que quer uma revolução na IA
Na revista ‘Science’, 25 dos maiores especialistas acadêmicos em IA do mundo, incluindo os ‘padrinhos da IA’ Geoffrey Hinton e Yoshua Bengio, alertam que é necessário fazer muito mais para chegar a um acordo global sobre segurança. Apresentam medidas políticas de investigação, desenvolvimento e governança para mitigar os riscos e ameaças.
Os autores argumentam que não estamos devidamente preparados para lidar com potenciais riscos de IA, uma vez que poucos recursos são dedicados à salvaguarda do desenvolvimento e implementação seguros e éticos das tecnologias de IA. Instam as grandes empresas tecnológicas e os financiadores públicos a investirem mais, alocando pelo menos um terço dos seus orçamentos para fazer face aos riscos. Apelam também aos reguladores e governos globais para que estabeleçam normas que evitem a imprudência e a utilização indevida.
Transformando discussão em ação real
“O mundo concordou durante o último Summit sobre IA que precisávamos de ação, mas agora chegamos ao ponto de passar de propostas vagas a compromissos concretos. Este artigo fornece muitas recomendações importantes sobre o que as empresas e os governos devem se comprometer a fazer”, observou o coautor Prof. Philip Torr, da Universidade de Oxford, em um comunicado à imprensa.
“Temos que nos preparar agora para riscos que podem parecer ficção científica – como a invasão de sistemas de IA em redes e infraestruturas essenciais, a manipulação política em escala da IA, os soldados robôs de IA e os drones assassinos totalmente autônomos, e até mesmo as IAs que tentam nos enganar e escapar de nossos esforços para desligá-las”, explicou o co-autor Dr. Jan Brauner, também da Universidade de Oxford. “Atualmente, o mundo da IA está focado em levar cada vez mais longe as capacidades IA, com a segurança e a ética em segundo plano. Para que a IA seja uma bênção, precisamos de nos reorientar; impulsionar capacidades não é suficiente.”
Fonte: Cordis UE
Destaque – Imagem: aloart
Publicação:
Sábado | 15 de junho, 2024
