Singapur propone un marco para fomentar el desarrollo fiable de la IA Generativa

La AI Verify Foundation (AIVF) y la Infocomm Media Development Authority (IMDA) han desarrollado un borrador de Marco Modelo de Gobernanza de la IA para la IA Generativa. Este marco amplía el Marco Modelo de Gobernanza existente que cubre la IA Tradicional, actualizado por última vez en 2020.

La IA Generativa tiene un importante potencial de transformación, por encima de lo que la IA Tradicional ha sido capaz de lograr. Esto también conlleva riesgos. Aunque sigue siendo un espacio en desarrollo dinámico, existe un consenso mundial cada vez mayor sobre la necesidad de principios coherentes para crear un entorno de confianza que permita a los usuarios finales utilizar la IA Generativa con confianza y seguridad, al tiempo que se deja espacio para la innovación de vanguardia.

El uso y la repercusión de la IA no se limitan a un solo país. De ahí que este marco propuesto pretenda facilitar las conversaciones internacionales entre los responsables políticos, la industria y la comunidad investigadora, para permitir un desarrollo fiable a escala mundial.

Con la IA Generativa, es necesario actualizar el anterior marco de gobernanza de modelos para abordar de forma holística las nuevas cuestiones que han surgido. El marco propuesto integra ideas del anterior documento de debate sobre la IA Generativa, en el que se presentaba una base conceptual. También se basa en trabajos técnicos anteriores para ofrecer un catálogo inicial y orientaciones sobre las prácticas sugeridas para la evaluación de la seguridad de los modelos de IA Generativa. Además, se basa en los conocimientos prácticos de las pruebas de evaluación en curso, realizadas en nuestro Generative AI Evaluation Sandbox.

El marco examina nueve dimensiones propuestas para apoyar un ecosistema de IA completo y de confianza. Los elementos centrales se basan en los principios de que las decisiones tomadas por la IA deben ser explicables, transparentes y justas. Más allá de los principios, ofrece sugerencias prácticas que los desarrolladores de modelos y los responsables políticos pueden aplicar como pasos iniciales.

La IA Generativa tiene un importante potencial de transformación, por encima de lo que la IA Tradicional ha sido capaz de lograr

La gobernanza de la IA sigue siendo un espacio incipiente. La creación de un consenso internacional es fundamental, como demuestra el éxito de la correspondencia y la interoperabilidad de los marcos nacionales de gobernanza de la IA entre Singapur y Estados Unidos, a través de la correspondencia entre el IMDA y el Instituto Nacional de Ciencia y Tecnología de Estados Unidos (NIST).

El Modelo de Marco de Gobernanza para la IA Generativa propuesto va un paso más allá al cubrir los últimos avances en IA Generativa. A su vez, esto informará los próximos pasos de Singapur, ya que adoptamos un enfoque práctico para maximizar tanto la confianza como la innovación. Este marco evolucionará a medida que se desarrollen las técnicas y las tecnologías.

Fuente de la Información: https://reporteasia.com/tecnologia/2024/01/26/singapur-propone-marco-desarrollo-fiable-ia-generativa/