La CFO de OpenAI advierte sobre riesgos de seguridad en modelos chinos de IA de bajo costo
La directora financiera de OpenAI, Sarah Friar, advirtió a los líderes corporativos contra el uso de modelos chinos de inteligencia artificial de bajo costo, destacando posibles vulnerabilidades de ciberseguridad para las redes empresariales. Guillaume Princen, ejecutivo del competidor Anthropic, se hizo eco de la preocupación por el software de código abierto, señalando que el código subyacente modificable presenta riesgos operativos adicionales. Las advertencias se producen mientras las alternativas chinas de bajo costo atraen a empresas que buscan opciones de automatización más económicas.
Los riesgos financieros van más allá de la seguridad de la red y abarcan el gobierno corporativo y la gestión de errores. Un estudio académico reveló que los directivos de las empresas no se ponen de acuerdo sobre si los empleados individuales, los supervisores directos o los departamentos de gestión de riesgos asumen la responsabilidad cuando el software autónomo comete errores costosos. Para ilustrar la magnitud de los posibles tropiezos, un solo bot de automatización configurado de forma incorrecta envió avisos de reembolso no autorizados a 18.000 clientes minoristas en cuestión de horas. Mientras tanto, OpenAI, respaldada por Microsoft (MSFT), informó haber alcanzado casi 50.000 millones de dólares en ingresos anualizados en el tercer trimestre y espera que esa cifra se acerque a los 70.000 millones de dólares a finales de año.
De cara al futuro, los inversores corporativos deberían hacer un seguimiento del gasto en seguridad de la inteligencia artificial empresarial, la velocidad de adopción de los agentes de software autónomos y si las organizaciones establecen políticas operativas claras para los errores de software. Además, los líderes del sector enfatizan que los desarrolladores de software occidentales no pueden frenar el progreso técnico sin correr el riesgo de sufrir pérdidas competitivas frente a sus rivales internacionales.
Puntos clave
- La CFO de OpenAI, Sarah Friar, advirtió a las empresas que adoptar modelos chinos de IA de menor costo crea vulnerabilidades significativas de ciberseguridad para las redes corporativas.
- El ejecutivo de Anthropic, Guillaume Princen, señaló que las herramientas de IA de código abierto introducen riesgos adicionales porque los usuarios pueden alterar el código subyacente.
- Un estudio corporativo reveló que los directivos siguen divididos sobre quién asume la responsabilidad cuando los agentes de IA cometen errores operativos costosos.
- Un bot de IA minorista configurado de forma inadecuada envió por error notificaciones de reembolso a 18.000 clientes en cuestión de horas.
- OpenAI alcanzó casi 50.000 millones de dólares en ingresos anualizados en el tercer trimestre, con el objetivo de llegar a aproximadamente 70.000 millones de dólares para finales de año.
Traducido por nuestra IA a partir de nuestro artículo en inglés, basado en fuentes expertas del mercado en la web. Puede contener errores: verifica los datos antes de actuar. Resúmenes creados con la API de IA gratis de FreeTheAI.org
Cómo escribimosAviso legalPreguntas y respuestas
¿Por qué OpenAI advierte a las empresas sobre el uso de modelos chinos de IA económicos?
La CFO de OpenAI, Sarah Friar, afirmó que los modelos chinos de IA de menor costo presentan riesgos de ciberseguridad para las redes empresariales, y aconsejó a las empresas priorizar el software occidental al manejar información corporativa confidencial.
¿Cuáles son los principales riesgos de utilizar agentes de IA autónomos en las empresas?
Más allá de los problemas de ciberseguridad, las empresas carecen de consenso sobre quién es responsable de los errores de la IA. Los agentes autónomos no controlados pueden amplificar pequeños errores de los usuarios miles de veces, como la emisión incorrecta de reembolsos a 18.000 clientes.
¿Cuál es el ingreso anualizado previsto de OpenAI para 2026?
OpenAI alcanzó casi 50.000 millones de dólares en ingresos anualizados durante el tercer trimestre y prevé que esa cifra crezca hasta aproximadamente 70.000 millones de dólares a finales de año.