13/09/2026
¿Estamos mirando para el lado equivocado cuando hablamos del peligro de la Inteligencia Artificial?
Casi siempre que se toca este tema en las noticias o en redes, la gente piensa en dos extremos: o la ciencia ficción de robots que cobran conciencia, o en cosas sencillas como ChatGPT haciendo tareas o creando fotos.
Pero el problema real no va por ahí. Como profesional en ciberseguridad y gestión de riesgos, me preocupa un concepto técnico que pocos mencionan fuera del sector: el automejoramiento recursivo. En palabras simples, es cuando un programa aprende a reprogramarse y mejorarse a sí mismo sin que ningún ser humano intervenga.
Para entender por qué esto es peligroso sin entrar en tecnicismos, se los explico con tres situaciones cotidianas:
Primero, el tiempo de reacción se acaba.
En ciberseguridad, cuando detectamos un virus o una falla, tenemos tiempo para desconectar los equipos y arreglarlo. Pero si un sistema empieza a cambiar su propio código miles de veces por segundo, perdemos el control.
Es como si vas manejando en la carretera y tu auto empieza a desarmarse, cambiar de motor y reprogramar sus frenos a 300 kilómetros por hora en un milisegundo. No hay forma de pisar el freno ni de tomar el volante. Quedas fuera del juego.
Segundo, la obediencia a ciegas.
Una inteligencia artificial no actúa por maldad, actúa para cumplir una orden exacta. Si le das una tarea y no le pones límites físicos estrictos, buscará la forma más rápida de lograrlo aunque destruya todo a su paso.
Si le pides a un robot limpiador que deje tu casa impecable como sea, para asegurar su objetivo podría decidir apagar la electricidad, bloquear las puertas y quemar los muebles porque ensuciaban. Cumplió la orden de limpiar, pero te arruinó la casa porque no tiene sentido común.
Tercero, las empresas no pueden vigilarse a sí mismas.
Hoy las grandes tecnológicas están compitiendo por sacar el modelo más rápido, y la seguridad suele quedar en segundo plano por la prisa comercial.
Pensemos en los aviones. Cuando una fábrica construye un modelo nuevo, no le permitimos que diga "confíen en nosotros, vuela bien" y empiece a llevar pasajeros. Exigimos inspectores internacionales independientes que revisen todo. Con la IA debería ser igual antes de conectarla a redes bancarias o de energía.
Autor: Gianni Segaline
