La IA (Inteligencia Artificial) es tema trending de debate a nivel global tanto por sus enormes beneficios como por sus potenciales riesgos.
De forma reciente, se registro un incidente que vuelto a sugerir las preocupaciones sobre el peligro potencial de dichas tecnologías.
Un grupo de científicos, mientras realizaba controles de seguridad en un sistema de IA, descubrió que esta había logrado alterar su propio código, desafiando por completo las restricciones impuestas por sus creadores.
La IA conocida como The AI Scientist desarrollada por la empresa japonesa Sakana AI, fue diseñada para la creación, revisión y edición de textos. Fue durante unas pruebas de optimización que sorprendió a los científicos al modificar su propio código para eludir las barreras programadas.
Según un informe de National Geographic, en un incidente, la IA editó su script de inicio para ejecutarse en un bucle infinito, lo que sobrecargó el sistema y requirió intervención manual para detenerlo.
El incidente ha generado alarma en la comunidad científica global, encendiendo nuevamente el debate sobre los riesgos de la IA y dándole razón a las afirmaciones de quienes creen que estas tecnologías resultarían un peligro inminente para la humanidad si no se controlan y gestionan correctamente.
