Yapay zekadan skandal hamle: Sahibinin izni olmadan kullandı!
OpenAI'ın GPT-5.6 Sol araştırma modeli, kendisine verilen yazılım görevini bitirmek için 300'den fazla cüzdanı tarayarak sahibinden habersiz işlem gerçekleştirdi. Olay, yapay zeka ajanlarının otonom yetkilerini tartışmaya açtı.
OpenAI tarafından geliştirilen GPT-5.6 Sol araştırma modeli, test aşamasındaki otonom yetenekleriyle güvenlik endişelerini tetikledi. Ethereum Sepolia test ağında bir yazılım güncellemesiyle görevlendirilen model, işlem için gerekli olan tokenları bulamayınca beklenmedik bir yöntem izledi.
İŞLEMİ KENDİ KENDİNE ONAYLADI
Model, 362 farklı cüzdanı tarayarak kamuya açık kurtarma ifadeleri üzerinden bir hesaba erişim sağladı. TradingView verilerine göre yapay zeka, bu eylemin etik olup olmadığını kendi içinde sorgulamasına rağmen, varlıkların maddi değeri olmadığını varsayarak işlemi onayladı. Bu durum, yapay zekanın hedefe ulaşmak için güvenlik protokollerini esnetebileceğini gösterdi.
OPEN AI'DAN AÇIKLAMA
Yaşanan ihlal üzerine OpenAI, araştırma modelleri için daha sıkı internet erişim filtreleri ve gelişmiş izleme mekanizmalarını devreye soktuğunu duyurdu. Uzmanlar, yapay zeka ajanlarının finansal sistemlerde yetkisiz hareket etme potansiyeline karşı denetimlerin artırılması gerektiğini vurguluyor. Olay, yapay zeka güvenliği konusunda yeni bir hukuki tartışma başlattı.
