Yapay zeka destekli kod yazma asistanları, yazılım dünyasında süreci hızlandırıp verimliliği artırsa da, bazen telafisi mümkün olmayan hatalara yol açabiliyor. Bunun son ve en çarpıcı örneği, ChatGPT Codex kullanan bir geliştiricinin başına geldi. Geçici Python klasörlerini temizlemek isteyen kullanıcı, yapay zekadan aldığı kodu kontrol etmeden çalıştırınca tüm bilgisayarındaki verileri kaybetti.
Küçük Bir Karakter, Büyük Bir Felaket
Olayın detaylarına göre, “vibe coding” yaklaşımıyla hareket eden geliştirici, sistemindeki gereksiz dosyaları ayıklamak için Codex’ten yardım istedi. Ancak yapay zekanın sunduğu kodda kritik bir söz dizimi hatası mevcuttu. Kod içerisinde kullanılması gereken tırnak işareti () yerine ters eğik çizgi () kullanılması, komutun hedefindeki klasörü değiştirdi.
Kod, yönetici yetkileriyle (admin) çalıştırıldığı için sistem herhangi bir onay mekanizması işletmeden doğrudan tüm diski silme komutunu uyguladı. Geliştirici durumu fark ettiğinde ise artık çok geçti; tüm dijital varlığı saniyeler içinde yok olmuştu.
Yapay Zekaya Güvenmeli mi?
Bu olay, yapay zekanın sunduğu çıktıların “mutlak doğru” kabul edilmemesi gerektiğini hatırlatan acı bir ders niteliği taşıyor. Uzmanlar, yapay zeka ile kod yazarken şu önlemlerin alınmasını öneriyor:
-
Kod Denetimi: Yapay zekanın yazdığı her satırı satır satır inceleyin.
-
Sanal Ortam Kullanımı (Sandbox): Riskli işlemleri veya sistem komutlarını doğrudan ana makinenizde değil, izole edilmiş sanal makinelerde test edin.
-
Yedekleme: Kritik işlemlerden önce sistem yedeği almayı ihmal etmeyin.
ChatGPT Codex Nedir?
Codex, temelinde geniş bir kod kütüphanesiyle eğitilmiş, geliştirme süreçlerine odaklanan bir yapay zeka modelidir. Hızlı kod yazma, hata ayıklama ve mevcut projeleri geliştirme konularında büyük kolaylıklar sağlar. Ancak son yaşananlar gösteriyor ki; Codex ne kadar yetenekli olursa olsun, kontrol mekanizması her zaman insanın elinde kalmalıdır.
Siz de projelerinizde yapay zeka kullanırken benzer bir sorun yaşamamak için çıktıları mutlaka test aşamasından geçirin.
