Un grupo de empresarios, expertos y políticos del sector tecnológico, incluyendo al polémico empresario Elon Musk, han redactado una carta en la que solicitan la suspensión de los experimentos con Inteligencia Artificial (IA) muy potente durante seis meses debido a los posibles riesgos que podrían representar para la sociedad y la humanidad.
La carta fue publicada por el Future of Life Institute, un organismo sin ánimo de lucro, y cuenta con firmas como la del CEO de Tesla, Elon Musk, el cofundador de Apple, Steve Wozniak, y varios investigadores de renombre como Yoshua Bengio y Stuart Russel.
Los firmantes advierten de los peligros de la IA si no se gestiona y planifica adecuadamente, y sostienen que la IA avanzada podría representar un cambio profundo en la historia de la vida en la tierra y debería ser planificada y gestionada con cuidado y recursos correspondientes. La carta también denuncia que los laboratorios de IA se han embarcado en una carrera fuera de control para desarrollar mentes digitales cada vez más poderosas.
La carta hace un llamamiento a todos los laboratorios de IA para que detengan el entrenamiento de los sistemas de IA más potentes que el modelo de aprendizaje profundo GPT-4 durante al menos seis meses. Además, piden a los desarrolladores que trabajen con los legisladores para acelerar un sistema legal sólido en torno a la IA y que los sistemas potentes de Inteligencia Artificial solo deben desarrollarse cuando haya seguridad de que sus efectos son positivos y sus riesgos son manejables.
Durante estos seis meses, los laboratorios de IA y los expertos independientes deberían desarrollar e implementar conjuntamente un conjunto de protocolos de seguridad compartidos para el diseño y desarrollo avanzados de IA que sean rigurosamente auditados y supervisados por expertos externos independientes. Los firmantes también piden la intervención de los gobiernos para imponer esta moratoria en caso de que las partes implicadas se nieguen a la suspensión temporal de las investigaciones.
Es importante destacar que GPT-4 es un tipo de modelo de aprendizaje artificial utilizado para generar lenguaje similar al humano y que el laboratorio OpenAI lo define como su “último hito en el esfuerzo para ampliar el aprendizaje profundo”. Aunque muestra un desempeño a nivel humano en varios puntos de referencia académicos y profesionales, sigue siendo menos capaz que las personas en muchas situaciones reales.
