No, el chatbot de IA de Snapchat no ha adquirido conciencia, aunque ha asustado a muchas personas al publicar una historia esta semana.
Como puedes ver en este ejemplo, el perfil de My AI compartió aleatoriamente este extraño cuadro de video como una historia ayer, y poco después, el bot dejó de responder a las preguntas de la gente.
Eso hizo que muchos cuestionaran el significado de la imagen de un solo cuadro. ¿Era esto un plano de un techo, tal vez el techo donde vive el servidor de My AI? ¿Era esto un mensaje codificado de algún tipo, diseñado para comunicarse con el mundo exterior? ¿Estaba My AI realmente cobrando vida?
La última pregunta realmente asustó a la gente, porque muchos de ellos se han divertido molestado y provocando al bot, en un esfuerzo por hacer que diga cosas controvertidas.
¿Y si estaba tomando notas y ahora estaba cobrando vida?
Pero no lo está, no te preocupes.
Poco después de que se publicó la historia, Snap confirmó que My AI había sufrido un fallo, y que ahora estaba de vuelta a la normalidad.
“My AI experimentó una interrupción temporal que ahora está resuelta. En este momento, My AI no tiene la función de Historias.”
Palabras interesantes. “En este momento” podría implicar que Snap está considerando agregar esta funcionalidad en el futuro, y tal vez este fallo fue parte de una prueba ampliada que podría hacer que My AI comparta actualizaciones de Historias, incluso historias únicas basadas en tus consultas al bot.
Aunque dado las respuestas, Snap querrá tener cuidado en este aspecto, ya que la paranoia de la IA podría provocar reacciones negativas, lo que podría tener el efecto contrario de hacer que la gente se encariñe con el personaje artificial.
Snap ya ha experimentado varios problemas con My AI, con usuarios molestos porque se agregó automáticamente en la parte superior de su bandeja de entrada, mientras que también ha tenido que implementar salvaguardias en el proceso de chat, después de que algunas de sus respuestas se consideraron inapropiadas.
Quiero decir, todos los bots de IA tienen el potencial de desviarse, ya que se basan en entradas basadas en la web, muchas de las cuales también están fuera de control, y si se están entrenando con basura aleatoria, de vez en cuando van a producir basura aleatoria ellos mismos. Es por eso que no puedes depositar toda tu confianza en este tipo de herramientas, aunque el riesgo de conciencia, al menos en esta etapa, sigue siendo bastante bajo.
Las herramientas de IA generativa se basan en estadísticas y ecuaciones, por lo que no están “aprendiendo” tanto como están iterando en función de las combinaciones e entradas más probables. Eso sigue siendo impresionante, especialmente considerando los resultados que pueden producir, pero no es como si estuvieran “pensando”. Solo son una versión mejorada de texto predictivo, que obviamente se puede ajustar a un grado mucho más alto, pero las salidas reales no son de preocupación para el propio sistema.
Así que My AI no te está mostrando dónde vive, ni donde vives tú, ni nada más, y no te vas a despertar y ver a ese extraño personaje morado observándote desde el pasillo oscuro.
Probablemente. Aún no, al menos.
