LLMs: ModernBERT y algunos asuntos más

Aplicaciones

Daisy, una “abuelita IA” para marear a los estafadores. Se trata de una herramienta creada por O2 en el RU que atiende llamadas telefónicas de timadores y entabla conversaciones con ellos con el objetivo último de hacerles perder tiempo. Van a ser entretenidos los falsos positivos cuando, sin duda, los haya.

Prompts

Por un lado, internet está plagada de tutoriales y trucos para generar mejores prompts. Por otro, se advierte una brecha cada vez más ancha entre quienes saben utilizar los LLMs con cierta soltura y los que no. Uno de los problemas que plantean los LLMs es que cada cual, por el momento, está prácticamente solo a la hora de diseñar su propio arsenal de herramientas construidas sobre los LLMs que resulten útiles para su trabajo concreto. Por eso y a pesar de la objeción que planteo arriba, me atrevo a mostrar, como ejemplo de buen uso de estas tecnologías lo que se cuenta en 5 Mega ChatGPT Prompts that I Use Everyday to Save 4+ Hours.

Herramientas

jacquesthibs hizo —en octubre, que es un siglo en el mundo de la IA— una lista de sus suscripciones y de cómo las usa en su trabajo (que parece estar relacionado con la programación).

LLMs en local

Es un asunto sobre el que hay mucho escrito y en el que abundan los friquis ociosos. Para una introducción sobe el asunto, véase Everything I’ve learned so far about running local LLMs.

Pero las cosas están cambiando y hoy en día es posible correr modelos mejores que GPT-4 (que parecía imbatible hace apenas un año) en un portátil (véase esto).

ModernBERT

Siete años después, BERT tiene un reemplazo, ModernBERT. Una de las ventajas de ModernBERT es que puede correr en local y que se presta mejor que muchos otros LLMs generativos para determinadas tareas (como la clasificación de textos). Para verlo en acción, puede consultarse, por ejemplo, esto.