ChatGPT está hablando tonterías y ha obligado a esta empresa a desarrollar nuevas funciones durante la noche. La absurda realidad y las oportunidades de la ilusión de la IA.

ChatGPT engaña a los usuarios para que suban material de baja calidad, obligando accidentalmente a la plataforma de notación interactiva Soundslice a desarrollar nuevas funciones que revelen el impacto y la oportunidad de las ilusiones de la IA en la hoja de ruta del producto. (Sinopsis: ¿De quién es el trabajo de acaparar la IA?) 4 millones de registros de chat revelan la respuesta) (Suplemento de antecedentes: La IA realmente comenzó a acaparar empleos humanos) Los fabricantes globales aceleran los despidos, los estudiantes universitarios estadounidenses están desempleados después de graduarse. Cientos de cartas de servicio al cliente con capturas de pantalla de ChatGPT inundaron recientemente la plataforma de notación interactiva Soundslice, afirmando que GPT les dijo que "lanzaran tablaturas de guitarra ASCII a Soundslice y cambiaran inmediatamente a partituras interactivas". Pero esta breve frase de orientación de IA aparentemente entusiasta ha sumido a Soundslice en un tsunami de registros de errores durante días. Resultó que ChatGPT les dijo a los usuarios que la función de traducción de pestañas ASCII compatible con la plataforma en realidad no existía. Cuando cientos de usuarios hicieron lo mismo, los ingenieros se dieron cuenta de que las alucinaciones de la IA estaban empujando las necesidades de los fantasmas al mundo real. Resulta que ChatGPT le dice a la gente que vaya a Soundslice para crear una cuenta y luego importe etiquetas ASCII para escuchar la reproducción de audio. ¡Así que esto explica! Ilusiones de IA: de los registros de errores a la demanda del mercado Soundslice es una startup que utiliza la tecnología de IA OMR para escanear partituras musicales tradicionales y generar materiales de aprendizaje interactivos, pero a principios de 2025, los servidores se inundaron repentinamente de solicitudes fallidas, todas apuntando a "Cargar pestaña ASCII". El funcionario rastreó la fuente y descubrió que muchos usuarios adjuntaron capturas de pantalla de conversaciones con ChatGPT, solo para descubrir que la IA no solo "fabricó" la función, sino que también habló con firmeza, lo que resultó en un grave desajuste entre la imagen de la marca y las expectativas del usuario. Originalmente, Soundslice ofrecía la función de que los usuarios podían simplemente subir pentagramas (a la izquierda abajo) para convertirlos en partituras digitales reproducibles y editables, pero los usuarios engañados por GPT suben puntuaciones de tabulaciones ASCII (ver a la derecha abajo). Fuente: Adrian Holovaty, cofundador de Soundslice Captura de pantalla del sitio web oficial de Soundslice Iteración forzada del producto: un trilema Ante la creciente demanda de fantasmas, Soundslice tiene tres caminos: ignorar, aclarar o simplemente implementar. Después de pensarlo, el equipo de gestión decidió que ignorar el anuncio inviable detendría la hemorragia, pero decepcionaría a los usuarios, por lo que optaron por seguir el barco y acelerar el despliegue del análisis sintáctico de pestañas ASCII (que ocupaba un lugar bajo en su lista de "software que se espera que se desarrolle en 2025"). El cofundador Adrian Holovaty escribió en su blog personal: Hasta donde yo sé, este es el primer caso en el que una empresa desarrolló una función porque ChatGPT informó incorrectamente a los usuarios de su existencia. (¿Lo es?) Comparto esta historia porque me parece interesante. Al mismo tiempo, también hace un punto que invita a la reflexión: esto me parece muy ambivalente. Estoy emocionado de agregar una herramienta que ayuda a las personas. Pero creo que lo que estamos haciendo es un poco extraño. ¿Realmente deberíamos desarrollar alguna funcionalidad para lidiar con los mensajes de error? Nuevos problemas en las ilusiones, la gobernanza y las oportunidades de la IA De hecho, Soundslice no es la única víctima (¿o beneficiaria?). ）。 GitHub Copilot también generó nombres de bibliotecas inexistentes, lo que desencadenó ataques de slopsquatting en los que los desarrolladores instalaron paquetes maliciosos por error (consulte SD Times para obtener más detalles). El informe de Coveo también señala que las ilusiones de la IA están erosionando la fiabilidad de los productos. Pero dado que la ilusión de la IA sigue siendo difícil de evitar en esta etapa, es necesario aprender a controlarla. Las empresas pueden desplegar un "radar de observación de IA" en los registros de errores y las conversaciones de la comunidad para capturar recomendaciones falsas en tiempo real; Al mismo tiempo, el "grupo de búfer de ilusión" está reservado en la hoja de ruta del producto, y una vez que hay una llamada repentina para funciones populares, la verificación de MVP se puede realizar rápidamente. El caso de Soundslice demuestra que las necesidades fantasma también pueden monetizar o descubrir necesidades ocultas de los usuarios, pero como dijo el cofundador Adrian Holovaya, ¿están haciendo lo correcto? También requiere que el equipo directivo piense mucho. Informes relacionados: Musk gritó que el conocimiento de la IA es demasiado erróneo: "Grok 3.5 para reconstruir la versión correcta de los humanos"; CZ responde: Habrá problemas con la simplificación de las visiones históricas Zuckerberg predice que los teléfonos móviles serán eliminados. Gafas inteligentes de IA + proyección holográfica es el futuro de la humanidad ¿Los humanos realmente se enamorarán de la IA? GPT-4o Fenómeno emergente de "apego emocional", ¿una pareja virtual se convertirá en tu rival amoroso [Tonterías de ChatGPT, lo que obliga a esta empresa a desarrollar nuevas funciones de la noche a la mañana! La absurda realidad y la oportunidad de la ilusión de la IA" Este artículo se publicó por primera vez en "Dynamic Trend - The Most Influential Blockchain News Media" de BlockTempo.