Carlos B Fernández. El gobierno del Reino Unido, a través de su Departamento de Ciencia, Innovación y Tecnología, ha presentado los cinco objetivos que pretende alcanzar con la celebración de la próxima Cumbre sobre Seguridad de la Inteligencia Artificial (IA) (AI Safety Summit).
Esta cumbre tendrá lugar los próximos días 1 y 2 de noviembre en Bletchley Park, unas instalaciones ubicadas en el Buckinhamshire, al norte de Londres, que son ya de por sí un lugar emblemático sobre el desarrollo de la IA, pues se trata de una instalación militar, en la que Alan Turing, junto con otros científicos, trabajó en descifrado de los códigos de comunicación alemanes durante la Segunda Guerra Mundial.
La AI Safety Summit reunirá a representantes gubernamentales y de organizaciones tecnológicas, del mundo académico y de la sociedad civil, para definir una acción nacional e internacional urgente sobre el desarrollo de la IA.
El gobierno británico considera, a este respecto, que acelerar la inversión, el despliegue y las capacidades que ofrece la IA, ofrece enormes oportunidades para la productividad y el bien público. De hecho, la aparición de modelos con capacidades cada vez más generales y una mejora radical en la accesibilidad y la aplicación de esta tecnología, han creado la perspectiva de un crecimiento de hasta 7 billones de dólares en los próximos 10 años.
Sin embargo, sin unas medidas de seguridad adecuadas, esta tecnología también plantea riesgos importantes que superan las fronteras nacionales. Por ello, la necesidad de abordar estos riesgos, incluso a nivel internacional, es cada vez más urgente.
En la actualidad, diversos países, organizaciones internacionales como la ONU, la Organización para la Cooperación y el Desarrollo Económicos (OCDE), la Asociación Global sobre Inteligencia Artificial (GPAI), el Consejo de Europa, el G7, el G20 y organizaciones de desarrollo de estándares, así como empresas, academia y sociedad civil están llevando adelante un importante trabajo al respecto, e impulsando la colaboración internacional en IA.
Por ello, la cumbre se basará en estas importantes iniciativas y acordará los próximos pasos prácticos para abordar los riesgos de la IA más avanzada. Esto incluirá más debates sobre cómo poner en práctica medidas de mitigación de riesgos en la IA, la evaluación de las áreas más importantes para la colaboración internacional para apoyar la IA en la frontera segura y una hoja de ruta para acciones a más largo plazo.
En particular, la cumbre se centrará en los riesgos creados o exacerbados significativamente por los sistemas de IA más potentes, en particular en aquellos asociados con las capacidades potencialmente peligrosas de estos sistemas, como la proliferación del acceso a información que podría socavar la bioseguridad.
La cumbre también se estudiará cómo se puede utilizar la IA de forma segura para el bien público y para mejorar la vida de las personas, desde su uso en el ámbito médico, para salvar vidas, hasta su aplicación para lograr unos medios de transporte más seguros.
La cumbre se basará en una variedad de perspectivas, apreciadas tanto antes como durante el evento mismo, para informar estas discusiones. En ellas el Reino Unido espera trabajar estrechamente con sus socios globales, para hacer que la IA más avanzada sea segura y permita garantizar que las naciones y los ciudadanos de todo el mundo puedan aprovechar sus beneficios, ahora y en el futuro.
Para ello, como anfitrión de este evento, y dentro de un proceso iterativo y consultivo, el Reino Unido presenta los cinco objetivos que considera necesarios alcanzar:
• Alcanzar una comprensión compartida de los riesgos que plantea la IA de vanguardia y la necesidad de actuar al respecto
• Avanzar en la colaboración internacional en materia de seguridad de la IA de vanguardia, a fin de apoyar los marcos nacionales e internacionales sobre la misma
• Identificar las medidas apropiadas que deberían adoptar las organizaciones para aumentar la seguridad de la IA más avanzada.
• Definir las áreas para una posible colaboración en la investigación de la seguridad de la IA, incluida la evaluación de las capacidades de los modelos, y el desarrollo de nuevos estándares para desarrollar su gobernanza.
• Presentar la forma en que se pueda garantizar un desarrollo seguro de la IA que permita que la IA se utilice para el bien a nivel mundial