Términos

Seguridad de la IA

Campo que se centra en evaluar los riesgos de los modelos de inteligencia artificial y establecer medidas para mitigarlos.

Última cobertura

CN
La dimisión de un directivo de OpenAI reaviva el debate sobre la velocidad de desarrollo de los modelos de inteligencia artificial

La dimisión de un directivo de OpenAI reaviva el debate sobre la velocidad de desarrollo de los modelos de inteligencia artificial

David Robinson dimitió del equipo de sistemas de seguridad de OpenAI, criticando la cultura de la empresa y la velocidad de desarrollo de sus modelos, y advirtiendo que un optimismo sin restricciones podría aumentar los riesgos de interactuar con sistemas extremadamente capaces. OpenAI afirma que retrasa el entrenamiento o el lanzamiento cuando es necesario y que amplía la evaluación externa y la supervisión en tiempo real.

CN
Anthropic apunta a una valoración de dos billones de dólares pese a las enormes pérdidas y las advertencias sobre los riesgos de la inteligencia artificial

Anthropic apunta a una valoración de dos billones de dólares pese a las enormes pérdidas y las advertencias sobre los riesgos de la inteligencia artificial

Anthropic se prepara para salir a bolsa con una valoración objetivo de hasta dos billones de dólares, con planes de gastar unos 518.000 millones de dólares en computación, chips e infraestructura. El folleto de la oferta revela grandes pérdidas, concentración de ingresos y amplias advertencias sobre los riesgos de los modelos avanzados de inteligencia artificial.

CN
Jensen Huang: la seguridad de la IA es un problema de ingeniería, no legal

Jensen Huang: la seguridad de la IA es un problema de ingeniería, no legal

Jensen Huang considera que las empresas de inteligencia artificial pueden gestionar los riesgos de sus productos mediante la ingeniería y las fuerzas del mercado, sin necesidad de nuevas leyes. Sin embargo, el análisis de TechCrunch cuestiona la suficiencia de este enfoque y cita daños relacionados con software, productos tecnológicos y casos vinculados a la inteligencia artificial.

CN
OpenAI, Anthropic y Google DeepMind mantienen conversaciones conjuntas sobre la seguridad de la inteligencia artificial

OpenAI, Anthropic y Google DeepMind mantienen conversaciones conjuntas sobre la seguridad de la inteligencia artificial

OpenAI confirmó que desde hace semanas mantiene conversaciones sobre la seguridad de la inteligencia artificial con Anthropic y Google DeepMind, en paralelo a los llamamientos para crear un organismo independiente de normas y un mecanismo para verificar la seguridad de los modelos avanzados. Esto ocurre en medio de advertencias sobre los riesgos derivados de las leyes antimonopolio y de la oposición dentro de la administración estadounidense a endurecer la regulación, con el argumento de preservar la competencia con China.

CN
China critica la propuesta de ralentizar el desarrollo de la inteligencia artificial y la califica de táctica de la Guerra Fría

China critica la propuesta de ralentizar el desarrollo de la inteligencia artificial y la califica de táctica de la Guerra Fría

Medios de comunicación chinos y el Ministerio de Asuntos Exteriores de China rechazaron la invitación del director ejecutivo de Anthropic a ralentizar el desarrollo de la inteligencia artificial, al considerar que la propuesta podría convertirse en un instrumento para excluir a China de la innovación mundial. La polémica revela un conflicto entre las exigencias de seguridad tecnológica y las restricciones geopolíticas sobre los chips y los modelos avanzados.

CN
Expertos proponen el equilibrio en lugar de ralentizar el desarrollo de la inteligencia artificial o dejarlo sin restricciones

Expertos proponen el equilibrio en lugar de ralentizar el desarrollo de la inteligencia artificial o dejarlo sin restricciones

Expertos en políticas y ética de la inteligencia artificial pidieron equilibrar la velocidad de desarrollo de los modelos con los requisitos de seguridad y regulación, tras las advertencias formuladas desde grandes empresas de que el progreso podría superar la capacidad de la sociedad para comprenderlo y controlarlo. Los expertos consideran que la cooperación entre empresas, gobiernos y sociedad civil debe acompañar a la competencia tecnológica.

CN
El director de Anthropic presenta un plan para ralentizar la carrera hacia la inteligencia artificial avanzada

El director de Anthropic presenta un plan para ralentizar la carrera hacia la inteligencia artificial avanzada

Dario Amodei propuso tres mecanismos para «ralentizar el ritmo del progreso» en los modelos de inteligencia artificial, entre ellos supervisores independientes dentro de las empresas, estándares de seguridad compartidos y coordinación internacional. Por su parte, Anthropic se compromete a ofrecer un acceso ampliado a evaluadores externos, mientras que la aplicabilidad de las propuestas y su posible conflicto con las leyes de competencia siguen siendo cuestiones abiertas.

CN
Dimisiones y reestructuraciones recurrentes presionan a OpenAI antes de una posible oferta pública

Dimisiones y reestructuraciones recurrentes presionan a OpenAI antes de una posible oferta pública

OpenAI atraviesa cambios organizativos sucesivos y la salida de varios altos ejecutivos, mientras se prepara potencialmente para una oferta pública que podría elevar su valoración hasta aproximadamente un billón de dólares. Esto ocurre mientras la empresa redistribuye las responsabilidades de seguridad de la inteligencia artificial y afronta una competencia creciente de Anthropic en el mercado empresarial.