Tu amigo artificial: ¿mascota, bot, amigo o espía?

Muse, el nuevo invento de Meta, es un asistente personal con aspecto de mascota pensado para establecer un «vínculo emocional» con el usuario. Los riesgos de ceder datos a una IA y a la empresa que está detrás.
Por Esteban Magnani

En el mundo tecnológico saben que con los ingenieros no alcanza: se necesita un buen vendedor y un producto seductor. El precursor en esta lógica fue Steve Jobs, cofundador de Apple, que supo reciclar invenciones previas para generar productos novedosos e irresistibles. Su enseñanza fue que las características técnicas son importantes, pero sin un buen paquete de marketing que seduzca, el éxito económico puede ser esquivo.

En esa lección parece estar abrevando Mark Zuckerberg con el lanzamiento de Muse, un modelo de Inteligencia Artificial Generativa pensado para asistir a las personas en su vida cotidiana. En realidad, asistentes de ese tipo ya existen, pero el CEO de Meta piensa que este producto puede establecer un vínculo emocional para seducir al usuario común y de manera masiva. Detrás de una fachada simpática se esconde la urgente necesidad económica de Meta de recuperar algo de lo invertido en la construcción de data centers y de mostrar que hay negocio después de las redes sociales.

Tu musa en el bolsillo

Zuckerberg explicó que la idea es que su «nuevo invento» trabaje «24/7 en tu nombre para ayudarte a alcanzar tus objetivos y mejorar tu vida, tu salud, tus vínculos, tus finanzas». Nada menos: al igual que otros tecnomagnates de la IA, repitió las promesas de que esa tecnología todopoderosa resolverá cualquier necesidad con solo pedírselo. El problema es que el mecanismo de prometer con tanta desmesura muestra señales de agotamiento y no logra detener un rechazo creciente por parte de la población respecto a la IA generativa.

La idea es que Muse resuelva de manera autónoma tareas como conseguir un turno, reservar una mesa en un restaurante, pagar las cuentas o arreglar una cita. Por supuesto, el detalle es que para lograr eso es necesario darle acceso a la agenda, los correos electrónicos, chats, el calendario y, detalle no menor, la tarjeta de crédito u otras formas de pago.

¿Qué podría salir mal? Muchas cosas. La propia campaña apocalíptica que habla de inteligencias artificiales descontroladas que coordinan ataques a otros sitios o pueden terminar con la humanidad es una alerta que debería servir para no entregarles tanto poder. Tampoco ayuda que una y otra vez estas empresas hayan mentido en cuanto a las garantías de privacidad: el último caso son las revelaciones de que hay humanos encargados de leer nuestros diálogos con ChatGPT para ayudar al modelo a responder mejor.

Para sortear esta creciente y razonable desconfianza, Zuckerberg puso el énfasis en las garantías de privacidad y el uso exclusivo para adultos, algo clave luego del arreglo multimillonario que debió firmar por el daño que provocó en la salud mental de millones de niños, niñas y adolescentes. Pero la apuesta pasa, sobre todo, por transformar a Muse en un personaje tan adorable que nadie desconfiaría: el agente se podrá instalar en Charm (Encantador), un dispositivo algo más grande que un reloj de pulsera, pensado para llevarse como colgante, siempre listo para conversar sin necesidad de sacar el teléfono. Cuenta con conexión 5G propia, una pantalla pequeña, sonido y cámaras trasera y delantera; pero lo más seductor aparece en la pantalla: un simpático muñequito que el dueño puede «vestir» a gusto, como haría con una mascota fiel.

Negocios futuros

Con este tierno personaje, Meta espera disipar la desconfianza de los usuarios y que Muse se transforme en un compañero de vida. No será la primera vez que alguien establece un vínculo emocional con un modelo de IA generativa, algo que ya ha generado serios problemas en muchas personas y que incluso ha llevado a que en China prohíban las parejas virtuales.

Un detalle no menor es que este dispositivo ya fue presentado, pero recién se comenzará a vender en diciembre a un precio que, se estima, oscilará entre los 100 y 200 dólares. Mientras tanto, Muse se puede instalar en celulares o computadoras de usuarios de Estados Unidos y Canadá, aunque hay promesas de que se sumarán otros en breve. De momento hay una versión gratuita y los planes premium cuestan de 20 a 100 dólares. Uno de los principales desafíos es que el número de abonos crezca, algo que no ha sido fácil para casi ninguna de las empresas de IA, todas ellas urgidas por recuperar las inversiones en data centers y desarrollo.

¿Por qué tanto apuro por lanzar Charm? Meta tiene hace años un problema estructural: la casi totalidad de sus ingresos depende de la publicidad que coloca en las redes sociales. Más de un tercio de la población global usa sus plataformas y ya no quedan mercados para continuar la expansión. Además, otras como TikTok representan una competencia feroz. Frente a estas dificultades, la empresa necesita renovar sus promesas de negocios futuros y de esa manera mantener alta la cotización de sus acciones.

Por ahora Meta ganó tiempo, pero habrá que ver si el interés inicial supera los riesgos que asume el usuario al ceder la privacidad a una empresa que, como ocurrió otras veces, usará los datos para orientar consumos y maximizar ganancias, al someterse a una delegación cognitiva agresiva y al quedar expuesto a condiciones y precios cambiantes. A esto se suman los riesgos de las alucinaciones incontrolables, el daño ambiental o los usos militares de las IA. Todas estas variables plantean obstáculos para que los usuarios olviden que el simpático muñequito de Charm es solo la fachada de una empresa desesperada por hacer rentable su última apuesta.