🤖 ¿Creéis que un riesgo superior al 10% de extinción humana justificaría frenar el desarrollo de la inteligencia artificial, aunque China u otros laboratorios continuaran avanzando? Os leo en los comentarios.

Jacob Coxon, investigador que trabajó en OpenAI y Anthropic, ha dimitido y acusa a ambos laboratorios de competir irresponsablemente por alcanzar una superinteligencia capaz de mejorarse a sí misma. La respuesta de Evan Hubinger, responsable de alineamiento de Anthropic, resulta todavía más inquietante: reconoce que aún no existe un plan para controlar una futura superinteligencia y estima en más del 10% la posibilidad de que provoque una catástrofe existencial durante la próxima década.

Juan Ramón Rallo analiza si estas advertencias reflejan un peligro real o forman parte de la estrategia previa a una salida a bolsa. También examina por qué ninguna empresa ni país quiere detenerse unilateralmente, cómo la IA ya escribe más del 80% del código integrado por Anthropic y por qué coordinar un freno mundial resulta tan complicado.

¿Estamos ante una exageración, una campaña de marketing o una carrera tecnológica que nadie sabe detener?

Hosted on Acast. See acast.com/privacy for more information.