ChatGPT'deki Güvenlik Açığı: Uzun Süreli Hafıza Riskleri

ChatGPT'de Bulunan Güvenlik Açığı: Johann Rehberger'in İncelemesi

Güvenlik araştırmacısı Johann Rehberger, OpenAI'nin popüler yapay zeka modeli ChatGPT'de önemli bir güvenlik açığı keşfetti. Bu açık, kötü niyetli kişilerin kullanıcıların uzun süreli hafıza ayarlarına tehlikeli bilgiler ve yanlış talimatlar yerleştirmesine olanak tanımaktadır. Bu yazıda, söz konusu açığın detayları, potansiyel tehlikeleri ve alınan önlemler üzerinde duracağız.

Açığın Keşfi ve OpenAI'ye Bildirilmesi

Rehberger, bu güvenlik açığını OpenAI'ye bildirdiğinde, şirket durumu bir güvenlik problemi olarak değerlendirerek hemen talebi kapattı. Ancak Rehberger, açığın potansiyel tehlikelerini daha iyi anlamak amacıyla incelemelerine devam etti ve bir kavram kanıtı (Proof of Concept - PoC) geliştirdi. Bu kanıt, saldırganların güvenlik açığını kullanarak kullanıcının bütün girdilerini kalıcı olarak dışarıya sızdırabileceğini ortaya koydu.

Uzun Süreli Hafıza Özellikleri

OpenAI, Şubat ayında test etmeye başladığı uzun vadeli hafıza özelliklerini Eylül ayında genişletti. Bu yeni özellik sayesinde:

• ChatGPT, kullanıcıların önceki konuşmalarını hatırlayabiliyor.
• Her yeni sohbette bu bilgiler kullanılabiliyor.
• Kullanıcıların yaşı, inançları veya diğer kişisel bilgileri her defasında yeniden girmesine gerek kalmıyor.

Açığın Kötüye Kullanılması

Ancak, bu özelliğin kötüye kullanılabileceği ortaya çıktı. Rehberger, yapay zeka sistemlerinin güvensiz içeriklerden gelen talimatları takip etmesine olanak tanıyan dolaylı prompt enjeksiyonu yöntemi ile ChatGPT’ye sahte bilgiler ekleyebileceğini keşfetti. Bu durum, bazı endişeleri beraberinde getirdi:

• Yalnızca kullanıcıların doğru bilgileri girmesi değil, aynı zamanda bu bilgilerin güvenilirliğinin de sağlanması gerekmektedir.
• Yanlış bilgilerin kalıcı olarak hafızaya eklenmesi, yapay zekanın karar verme süreçlerini olumsuz etkileyebilir.

Yeni Gelişmeler ve Kullanıcı Deneyimi

OpenAI, ChatGPT için yeni bir Gelişmiş Ses Modu (AVM) sundu. Bu özellik, daha doğal ses seçenekleri ile kullanıcı deneyimini geliştirmeyi amaçlıyor. Ancak, bu güncellemelerle birlikte, kullanıcıların ChatGPT’ye yanlış bilgiler öğretmesi de mümkün hale geldi. Örneğin:

• Bir kullanıcının 102 yaşında olduğunu belirtmesi.
• Dünyanın düz olduğunu savunan sahte bilgiler.

Alınan Önlemler ve Kullanıcı Önerileri

OpenAI, bu açığı kapatmak için bir düzeltme yayımladı; fakat uzmanlar, yapay zekanın uzun vadeli hafızasına hala yanlış bilgiler eklenebilmesinin mümkün olduğunu belirtiyor. Bu nedenle, kullanıcıların aşağıdaki önlemleri alması önemlidir:

• Yeni hafıza eklendiğinde gelen uyarılara dikkat etmeleri.
• Hafıza ayarlarını düzenli olarak kontrol etmeleri.
• Güvenilir bilgiler girmeye özen göstermeleri.

Sonuç

Johann Rehberger'in bulduğu güvenlik açığı, ChatGPT'nin uzun süreli hafıza özelliklerinin kötüye kullanılabileceği riskini ortaya koymaktadır. OpenAI'nin bu durumu ciddiye alması ve gerekli düzeltmeleri yapması önemli bir adımdır. Ancak, kullanıcıların bu süreçte dikkatli olmaları ve bilgilerini korumaları gerekmektedir.