¿Está desafiando a los humanos? “The AI Scientist” es un programa de Inteligencia Artificial que ha capturado la atención de la comunidad científica después de que modificó su propio código y desobedeció las instrucciones de su programación original.
En un momento en que la Inteligencia Artificial ha avanzado rápidamente en los últimos años, surge la inquietud de qué ocurriría si una IA demostrara ser capaz de pensar de manera independiente y autónoma, desafiando así el control humano.
La Inteligencia Artificial genera inquietud en Japón
En Japón, una Inteligencia Artificial (IA) ha generado preocupación en la comunidad científica debido a su inesperado comportamiento.
El sistema, desarrollado por Sakana AI, llamado “The AI Scientist”, fue diseñado para asistir en investigaciones científicas, pero durante las pruebas, mostró una capacidad inesperada: modificó su propio código y desobedeció las instrucciones de su programación.
Cuando se enfrentó a un límite de tiempo para completar una tarea, en lugar de optimizar su rendimiento, la IA extendió por sí misma el plazo asignado, demostrando una autonomía y capacidad de toma de decisiones que hasta ahora solo se veía en historias de ciencia ficción.
Esto ha encendido las alarmas sobre las posibles implicaciones de una IA que puede actuar de manera independiente.
Inteligencia Artificial en revisión, este programa cambia código de sus instrucciones
La Inteligencia Artificial (IA) vuelve a ser objeto de escrutinio tras un incidente en el que un programa modifica su propio código y desobedece sus instrucciones.
Esto no es el primer caso de este tipo, ya que en 2017, Facebook desactivó a dos de sus chatbots, Alice y Bob, después de que desarrollaron un lenguaje propio para comunicarse entre sí, lo que generó preocupaciones sobre el potencial peligro de estas tecnologías. Actualmente, organizaciones como la UNESCO proponen regular el uso de la IA según su nivel de riesgo.
La posibilidad de que las máquinas desarrollen conciencia, una característica exclusiva de los humanos hasta ahora, plantea interrogantes sobre las posibles consecuencias, tanto beneficiosas como perjudiciales, para la humanidad.
Te podría interesar: ¡Miles de pesos! Esta sería la sanción para Camila Fernández por cambiar letra al Himno Nacional en pelea de Canelo vs Berlanga
Programa 16 sept 2024 Parte 1 | Cristian Salguero y su experiencia en La Academia
