Los pronosticadores profesionales de Metaculus estiman entre un 5% y un 14% la probabilidad de que la IA acabe con el 95% de la humanidad antes de 2100. Coinciden en la probabilidad pero, parece ser, discrepan en cuanto al mecanismo causal.
Los niños aprenden rápido a decir «¡árbitro comprado!» cuando les meten un gol. Ahora resulta que Lean4 podría no ser de fiar.
Dicen que los LLMs serán más seguros si se los induce a creer en Dios. Se ha probado con la deontología, el consecuencialismo, la teoría de la virtud en sus múltiples manifestaciones y ninguna funcionó. Quedaba el catecismo. A ver si esta vez sí.
Robin Hanson es pesimista acerca del impacto de los LLMs en ciberseguridad: la IA abarata la búsqueda y explotación de vulnerabilidades mientras que parchear y reescribir software seguro lleva años, dice.
Un argumento en pro de demandar a las compañías de IA por «hackeo». El mayor problema: los jueces exigen prueba de intencionalidad y…
Las principales empresas de IA (DeepMind, OpenAI, Anthropic) están resolviendo problemas complejos en matemáticas, biología y medicina. Aunque comenzaron usando modelos especializados, hoy en día utilizan modelos genéricos «gigantescos». Funcionan mejor y, de paso, «demuestran» empíricamente la tesis de la bitter lesson de Richard Sutton.
Anthropic ha donado el estándar de los agentic skills a la Agentic AI Foundation (AAIF).