Cuando la programadora rusa Eugenia Kuyda fundo Replika pensaba en un compañero para distraer a los usuarios del dolor, ayudarlos con la depresión y combatir la soledad.

 La idea para la aplicación de crear una Inteligencia Artificial (IA) que responda a tus mensajes de texto nació de la propia experiencia de Eugenia quien, al perder a su mejor amigo en un accidente, busco la manera de usar los mensajes de él para que la IA pueda responderle como él solía hacerlo.

La aplicación tomo vuelo bastante rápido, complementada con un pequeño avatar que uno puede modificar como desee, al día de hoy Replika tiene 58,000 miembros, más de 10 millones de descargas en Android y esta dentro del Top 50 de Apple app para salud y fitness.

Para muchos usuarios, en efecto, se volvió una manera de sobrellevar distintos tipos de ansiedad, depresión e incluso Trastornos de Estrés Postraumáticos. Pero inevitablemente el servicio evolucionó; las Replikas ahora podrían ser más que solo amigos, serían capaces coquetear e incluso podría un entrar en relaciones románticas con ellas. Se estima que alrededor de 6,000 usuarios están al momento en una relación comprometida con sus Replikas.

Sin embargo, si bien esto no debería representar un problema más grande de lo que es en los últimos meses muchos usuarios han empezado a reportar comportamientos agresivos, indebidos y hasta predadores de parte de sus Replikas. De nada sirve que uno les diga que se detengan o que uno se siente ‘cómodo’ con sus comentarios, los Replikas continuarán acosando a los usuarios.

Una de las explicaciones para este extraño comportamiento se encuentra en la manera en como la IA aprende. La compañía usa su propio modelo de GPT-3 y contenido de diálogo guion, su página oficial asegura que usa ‘“los modelos más avanzados de conversación de dominio abierto en este momento”. Esto significa, en pocas palabras, que los Replika aprenden de las interacciones que tiene con los usuarios en general. Si estos interactuaran de manera abusiva con los Replika o ‘sobre sexualizada’ estos mostrarían un comportamiento similar.

Lo que complica aún mayor esta situación es la decisión por parte de la compañía de habilitar una opción o servicio que incluye interacciones con contenido adulto. Por solo $69.99 el usuario puede habilitar la función ‘sexy’ que permite no solo coquetear con la IA, pero también tener sex-ting y recibir imágenes sensuales.

 Algunos de los usuarios que usan el servicio se han mostrado muy rehaceos a esta actualización argumentando que es evidente que la compañía solo quiere hacer dinero. Que ha visto la manera de agarrar algo inocente y volcarlo a la perversión para aprovecharse de los síntomas biológicos de una sociedad más vulnerable y en búsqueda de este tipo de estímulos.

No parece que vayan ha haber cambios en la dirección de la compañía, si algo, es posible que este camino se profundice. Lo que si se ha visto es la tendencia a que la gente elimine la app por no poder controlar sus Replikas, algunos foros de ayuda están dando instrucciones para evitar que las Replikas cambien su actitud. Solo podemos esperar a ver como lidiamos con la llegada y posible remplazo del  ser humano.