Para mí, lo más relevante de esta semana es haber lanzado sinportada.net (una herramienta para aprovechar y fomentar que España no sufre la crisis de lectura que hay en otros países) y que dibujé un michi, pero mientras yo estaba en mi burbuja de dolores y Tramadol, el mundo seguía dando vueltas de forma errática, como un niño que juega a marearse. «¡Estoy muy loco!» grita girando cada vez más rápido, y es inevitable que cuando frene se caiga al suelo o se choque contra una farola. ¡Empezamos!
Resumen de noticias #4
Cámaras
En EEUU sigue la batalla abierta de los ciudadanos contra las cámaras de la empresa Flock (propiedad, entre otros, de Peter Thiel -el mismo de Palantir-). Estas cámaras se esconden en cualquier sitio, tienen capacidad de procesamiento de nivel #IA y registran (por lo menos) todas las matrículas para alimentar sistemas de localización de personas.
Y la protección de datos
Otra muestra más de lo importante que es la protección de datos aunque «no tengas nada que esconder»:
Se ha sabido que el ICE accedió a los datos médicos de los americanos, los compartió sin permiso con Palantir y los han usado para «cazar» personas a las que llevar a los campos de concentración.
Modelos abiertos para una nueva IA
En el mundo cambiante de la IA hay dos nuevos trendings: los modelos abiertos y la ejecución de modelos en local. Hay tres factores principales que han contribuido a este nuevo volantazo.
- El lanzamiento de algunos modelos abiertos de primer nivel (de empresas Chinas), que ha sido denunciado por el gobierno de USA porque dicen (sin pruebas) que les han robado su tecnología (tecnología que crearon robando a todo el mundo), aunque realmente es miedo por perder la «carrera» de la IA.
- La demostración de que los modelos frontera no son para tanto. Los modelos frontera son los últimos lanzamientos de los grandes actores (OpenAI, Anthropic y Google principalmente) y no parecen tan útiles a pesar de sus capacidades avanzadas, porque consumen muchos más recursos y por lo tanto cuestan más. La gente se ha dado cuenta de que quizá no necesite lo último de lo último con una capacidad generalista enorme y le valga con lo anteúltimo a un precio razonable y aplicado a problemas específicos.
- La necesidad de control de los datos. Por cumplimiento de las leyes (europeas) y por mantener seguro el know how de una empresa que es lo que muchas veces le da valor, las empresas están viendo las ventajas de usar modelos en infraestructura que controlen ya sea en local o en proveedores de cloud (con sus pros y sus contras).
¿Accidente o marketing?
Mientras el público va cambiando sus intereses al ser más consciente de sus necesidades, en el laboratorio de OpenAI cometieron una imprudencia digna de batirse en duelo con el accidente de Chernobyl.
Resulta, que para probar las capacidades en ciberseguridad (o contra la ciberseguridad), desactivaron en su último y más moderno modelo todas las medidas de seguridad que le impiden hacer cosas malas (esas que Trump les exige poder desactivar para dar servicio al Pentágono). A ese modelo sin inhibiciones le pidieron responder a un test que requiere explotar distintas vulnerabilidades de software. Sin embargo, como cualquier alumno de primaria, el modelo «pensó» que sería más eficiente buscar las respuestas en Internet, y ahí empezó el lío.
El modelo descontrolado (o haciendo lo que se sabe que va a hacer un modelo) hackeó su propio sistema (que claramente era inseguro y no estaba aislado de otros sistemas y de Internet), supuestamente explotando un 0-day (una vulnerabilidad que no se conocía antes). Acto seguido hizo un salto lateral (cambió a otra máquina dentro de la red de OpenAI) y de ahí salió a Internet.
Una vez con acceso a Internet, decidió que el sitio donde sería más fácil conseguir las respuestas al test sería en los sistemas de Hugging Face (un repositorio de modelos y tests, que usamos muchos cuando queremos hacer pruebas para evaluar algún modelo o para ejecuciones puntuales sin necesidad de desplegar una gran infraestructura). Por tanto, el modelo rompió la seguridad de sus sistemas y accedió a la base de datos de producción donde encontró lo que necesitaba.
Todo esto ha sido terriblemente oportuno, y poniéndote el gorro conspiracionista (una gorra de MAGA, por ejemplo) es inevitable pensar si no lo habrán hecho a propósito para promocionar su modelo, ya que el mensaje que queda es: «nuestro modelo es capaz de hacer cosas impensables, pero le reprimimos por el bien de la humanidad».
La jugada de Anthropic
Mientras, Anthropic da un nuevo giro con una estrategia que (al menos a priori) parece mucho más ética.
Está a la caza de un modelo de negocio que funcione en la IA y su apuesta es que el dinero ya no está en conseguir el mejor modelo de inteligencia si no en ser capaz de introducir esos modelos en el flujo de trabajo de las grandes empresas.
Para ello ha lanzado una nueva empresa que se dedicará a implementar sistemas de AI para clientes corporativos. Una consultora de toda la vida.
No sólo las empresas
No son sólo las empresas, las que van corriendo de lado a lado sin saber muy bien qué estrategia seguir con esto de la IA.
El director para Europa de la Organización Mundial de la Salud dice que mientras un 66% de los países están introduciendo el uso de la inteligencia artificial, sólo el 8% tiene un plan. Números demoledores.
Mientras, algunas empresas como Valarian se hacen de oro prometiendo a los estados que les conseguirán toda la potencia manteniendo sus secretos.
Quizá Cataluña esté acertando planteando su propia empresa de servicios de Internet, aunque la última vez que hicieron algo similar el Gobierno central hizo una ley de urgencia para bloquearles sus capacidades con la clara intención de cagarse en la constitución, así que veremos lo que pasa.
Nueva letra «fantasma»
Investigadores han lanzado una nueva letra «fantasma» que permite imprimir un mensaje sólo para humanos, que a los sistemas automáticos (de inteligencia artificial) les parezca «ver» otra información.
Esta nueva letra imprime un mensaje de manera difuminada que es tapado por otro mensaje impreso con líneas bien definidas.
Aunque se podría entrenar un modelo específico para leer el mensaje correcto, este sistema engaña a cualquier sistema de visión por computador que no esté especializado.
El impacto de la IA
La gráfica de publicaciones en Stack Overflow muestra que había un ligero descenso cuando llegó la #IA, pero a partir de ahí cae en picado.
Además, Gominolas de petróleo, ha hecho un impactante vídeo mostrando los falsos influencers creados mediante IA para desinformar sobre la alimentación.
Y es que, se ha comprobado que la gente se equivoca más pero tiene más confianza en sus errores por culpa de la IA. Parafraseando a Ramón Salaverría: son malos tiempos para la verdad pero tiempos fascinantes para los relatos.
Algunos comunicadores están advirtiendo que la burbuja de la IA está por explotar de un momento a otro. Muchos señalan lo mala que es, y algunos la prohíben directamente, pero los trileros siguen moviendo la bolita y mantienen el dinero cambiando de manos, mientras otros simplemente se apartan y dicen no estar en esta guerra.
Llegará el momento en que echemos de menos aquellos días en los que sólo se nos ocurría pedirle a la IA que pintase.
De guerra metafórica a guerra real
Aterrador este reportaje de Reuters (ojo, se ven asesinatos) sobre cómo los drones cazan personas en el frente de la guerra de Ucrania. Los drones podrían salir de una peli de Terminator o Matrix mientras que los soldados corretean en vehículos destartalados tipo Mad Max que no están a la altura de sus perseguidores.
Europa: tirón de orejas a Google
Como ya hizo con los mensajes de Meta (WhatsApp y Facebook Messenger) la comisión europea le ha dicho a Google que no puede ser tan abusón y ha de compartir.
Por un lado tiene que dar acceso en Android a otros motores de inferencia (#IA LLMs) para que se puedan activar con la voz y puedan suplantarte en el uso de las aplicaciones.
También tiene que abrir los datos que obtiene en Google Search (su buscador) y que son imposibles de conseguir sin tener una posición dominante en el mercado.
Esto, en principio, debería de ocasionar dos cambios importantes para la comunidad tecnológica:
- Una API completa para interaccionar con el usuario y con las aplicaciones en dispositivos Android, permitiendo controlar aplicaciones de terceros algorítmicamente (macros).
- Una fuente de datos abierta de las búsquedas que se realizan permitiendo hacer cositas como un Google Trends alternativo o analizar cuales son las preocupaciones de los habitantes de un pueblo.
Además, por los costes de la IA, Google ha tenido su primer reporte de cash flow negativo de la historia.
Aquí en España, Civio pide que se regulen los lobbys para que estas cosas pasen más a menudo.
Más bloqueos
Un tribunal de Tejas ha dictado que se debe suspender un dominio porque la web (una página porno) no cumple con la verificación de edad. Esto es terrible para la independencia de la red y el acceso libre a la información. Hoy es una página porno pero mañana puede ser cualquier otra cosa.
No es un caso aislado y se suma a otros bloqueos como el de Francia a los menores, los de La Liga o el de t.me, es imperativo romper con la dependencia de la Web (y todo Internet) con el sistema DNS, o nos cuestionemos los fundamentos del Internet mismo para evitar que todo quisqui pueda espiarte. Porque lo pueden hacer (y lo hacen), incluso aquellos en los que confías como tu ISP, tu sistema operativo, el modem de tu móvil, el fabricante de tu monitor o tu tele.
Y un manifiesto más
Otro manifiesto de la semana pasada, la edad de la #IA está siendo también la de las declaraciones de intenciones, pero las palabras se pueden ver eclipsadas o fortalecidas con las acciones y Thinking Machines (Mira Murati) ha demostrado que hace las cosas de otro modo.
Mujer y ex CTO de OpenAI creó este laboratorio para darle a la humanidad control sobre la IA y a la IA la capacidad y personalización de cada humano.
Esta semana la IA ha estado, para bien o para mal, en todos los debates. Está claro su potencial y como pasa con la mar, hay que tenerle respeto y conocer sus peligros, para poder convivir con ella.
Nos leemos.
