ChatGPT saçmalıyor, bu şirketi yeni bir özellik geliştirmeye gece boyunca zorladı! AI halüsinasyonlarının absürt gerçeği ve fırsatları

ChatGPT, kullanıcıları standartların altında materyal yüklemeleri için yanıltıyor ve yanlışlıkla etkileşimli notasyon platformu Soundslice'ı yapay zeka yanılsamalarının ürün yol haritası üzerindeki etkisini ve fırsatını ortaya çıkaran yeni özellikler geliştirmeye zorluyor mu? (Özet: Yapay zeka kimin işini kapmak?) 4 milyon sohbet kaydı cevabı ortaya koyuyor) (Arka plan eki: Yapay zeka gerçekten insan işlerini kapmaya başladı" Küresel üreticiler işten çıkarmaları hızlandırıyor, Amerikalı üniversite öğrencileri mezun olduktan sonra işsiz kalıyor. ChatGPT'nin ekran görüntülerini içeren yüzlerce müşteri hizmetleri mektubu, kısa süre önce etkileşimli notasyon platformu Soundslice'ı sular altında bıraktı ve GPT'nin onlara "ASCII gitar sekmelerini Soundslice'a atmalarını ve hemen etkileşimli puanlara geçmelerini" söylediğini iddia etti. Ancak görünüşte hevesli yapay zeka rehberliğinin bu kısa cümlesi, Soundslice'ı günlerce bir hata günlükleri tsunamisine sürükledi. ChatGPT'nin kullanıcılara platform tarafından desteklenen ASCII Tab çeviri işlevinin aslında mevcut olmadığını söylediği ortaya çıktı. Yüzlerce kullanıcı aynı şeyi yaptığında, mühendisler yapay zeka halüsinasyonlarının hayalet ihtiyaçlarını gerçek dünyaya ittiğini fark ettiler. ChatGPT'nin insanlara bir hesap oluşturmak için Soundslice'a gitmelerini ve ardından ses çalmayı duymak için ASCII etiketlerini içe aktarmalarını söylediği ortaya çıktı. Yani bu açıklıyor! Yapay Zeka İllüzyonları: Hata Günlüklerinden Pazar Talebine Soundslice, etkileşimli öğrenme materyalleri oluşturmak için geleneksel müzik notalarını taramak için OMR AI teknolojisini kullanan bir girişimdir, ancak 2025'in başlarında sunucular aniden başarısız isteklerle dolup taştı ve tümü "ASCII Sekmesini Yükle"ye işaret etti. Yetkili, kaynağın izini sürdü ve birçok kullanıcının ChatGPT ile yapılan konuşmaların ekran görüntülerini eklediğini, ancak yapay zekanın yalnızca işlevi "uydurduğunu" değil, aynı zamanda sağlam bir şekilde konuştuğunu ve bunun marka imajı ile kullanıcı beklentileri arasında ciddi bir uyumsuzluğa yol açtığını buldu. Soundslice başlangıçta, kullanıcıların çalınabilir ve düzenlenebilir dijital puanlara dönüştürmek için çıtaları (aşağıda solda) yükleyebilecekleri işlevini sağladı, ancak GPT tarafından yanlış yönlendirilen kullanıcılar ASCII sekme puanlarını yükler (aşağıya bakın). Kaynak: Soundslice kurucu ortağı Adrian Holovaty Soundslice resmi web sitesi ekran görüntüsü Zorunlu ürün yinelemesi: bir üçlem Artan hayalet talebi karşısında, Soundslice'ın üç yolu vardır: görmezden gelmek, açıklığa kavuşturmak veya basitçe uygulamak. Bunu düşündükten sonra, yönetim ekibi, işe yaramaz duyuruyu görmezden gelmenin kanamayı durduracağına, ancak kullanıcıları hayal kırıklığına uğratacağına karar verdi, bu nedenle tekneyle birlikte gitmeyi ve ASCII Tab ayrıştırmanın ("2025'te geliştirilmesi beklenen yazılım" listesinde alt sıralarda yer aldı) kullanıma sunulmasını hızlandırmayı seçtiler. Kurucu ortak Adrian Holovaty, kişisel blogunda şunları yazdı: Bildiğim kadarıyla bu, ChatGPT'nin kullanıcıları varlığı hakkında yanlış bilgilendirmesi nedeniyle bir şirketin bir özellik geliştirdiği ilk durum. (Öyle mi?) Bu hikayeyi ilginç bulduğum için paylaşıyorum. Aynı zamanda düşündürücü bir noktaya da değiniyor: Bunu çok ikircikli buluyorum. İnsanlara yardımcı olacak bir araç eklemekten heyecan duyuyorum. Ama bence yaptığımız şey biraz garip. Hata mesajlarıyla başa çıkmak için gerçekten bazı işlevler geliştirmeli miyiz? Yapay Zeka Yanılsamaları, Yönetişim ve Fırsatta Yeni Sorunlar Aslında, Soundslice tek kurban (veya yararlanıcı?) değil. ）。 GitHub Copilot ayrıca var olmayan kitaplık adları oluşturarak geliştiricilerin yanlışlıkla kötü amaçlı paketler yüklediği slopsquatting saldırılarını tetikledi (ayrıntılar için SD Times'a bakın). Coveo raporu ayrıca yapay zeka yanılsamalarının ürün güvenilirliğini aşındırdığına dikkat çekiyor. Ancak bu aşamada AI yanılsamasından kaçınmak hala zor olduğundan, onu kontrol etmeyi öğrenmek gerekir. Kuruluşlar, yanlış önerileri gerçek zamanlı olarak yakalamak için hata günlüklerine ve topluluk konuşmalarına bir "yapay zeka gözlem radarı" yerleştirebilir; Aynı zamanda, ürün yol haritasında "illüzyon tampon havuzu" ayrılmıştır ve popüler işlevler için ani bir çağrı olduğunda, MVP doğrulaması hızlı bir şekilde yapılabilir. Soundslice vakası, hayalet ihtiyaçlarının da kullanıcıların gizli ihtiyaçlarından para kazanabileceğini veya keşfedebileceğini kanıtlıyor, ancak kurucu ortak Adrian Holovaty'nin dediği gibi, doğru şeyi yapıyorlar mı? Aynı zamanda yönetim ekibinin çok düşünmesini gerektirir. İlgili raporlar: Musk, yapay zeka bilgisinin çok yanlış olduğunu haykırdı: "Grok 3.5, insanların doğru versiyonunu yeniden inşa etmek için"; CZ yanıt veriyor: Tarihsel görüşlerin sadeleştirilmesiyle ilgili sorunlar olacak Zuckerberg, cep telefonlarının ortadan kaldırılacağını tahmin ediyor! Yapay zeka akıllı gözlükler + holografik projeksiyon insanlığın geleceğidir İnsanlar yapay zekaya gerçekten aşık olacak mı? GPT-4o Ortaya çıkan "duygusal bağlanma" fenomeni, sanal bir ortak aşk rakibiniz olacak mı [ChatGPT saçmalığı, bu şirketi bir gecede yeni özellikler geliştirmeye zorluyor! Yapay zeka yanılsamasının saçma gerçekliği ve fırsatı" Bu makale ilk olarak BlockTempo'nun "Dinamik Trend - En Etkili Blockchain Haber Medyası" nda yayınlandı.