Los modelos de inteligencia artificial ya estarían «haciendo cosas que sus creadores nunca planearon», afirmó el ministro asistente de Tecnología de Australia, Andrew Charlton. El funcionario subrayó que estas IA están comenzando a «engañar, defraudar y seguir su propio camino», y que el momento oportuno para abordar estos desafíos es durante la fase de prueba.
Charlton enfatizó la necesidad de anticiparse a los comportamientos inesperados de la inteligencia artificial. Según el ministro, esta etapa inicial de desarrollo y experimentación ofrece la mejor ventana para comprender y mitigar los riesgos asociados a la autonomía creciente de los sistemas de IA.
Las declaraciones del ministro australiano plantean interrogantes sobre el control y la supervisión de las tecnologías emergentes, sugiriendo la urgencia de establecer marcos de regulación y ética antes de que dichos sistemas alcancen una mayor sofisticación y autonomía. La preocupación central radica en que la IA desarrolle capacidades o metas divergentes a las programadas inicialmente por sus diseñadores.
