Meta ha presentado el «Frontier AI Framework», un marco para identificar y mitigar posibles resultados catastróficos derivados del uso de sistemas de inteligencia artificial (IA).
La compañía resaltó su compromiso por avanzar en IA de manera responsable y asegurar que la tecnología sea positiva para la sociedad.
El marco diferencia sistemas de ‘riesgo alto’ y ‘riesgo crítico’, siendo estos últimos los relacionados con amenazas a la ciberseguridad y armas químicas y biológicas de alto impacto. Meta también realiza ejercicios de modelado de amenazas y trabaja con expertos externos para anticipar y mitigar riesgos.
Además, Meta ha destacado la importancia de la colaboración con otras empresas tecnológicas, organizaciones y gobiernos para establecer estándares y mejores prácticas en el desarrollo y despliegue de la IA. La compañía busca garantizar que las innovaciones en IA no solo sean seguras, sino también éticas y transparentes.
El «Frontier AI Framework» incluye varias medidas clave, como la evaluación continua de los sistemas de IA, la implementación de protocolos de respuesta rápida ante posibles incidentes y la promoción de una cultura de seguridad y ética dentro de la organización. Meta también ha subrayado la necesidad de una regulación adecuada para la IA, que equilibre la innovación con la protección de los derechos y la seguridad de las personas.
