OpenAI adlı yapay zekâ çalışmaları yürüten kuruluş metin yazarlığı alanında geliştirdikleri yazılımı denemeye karar verdi ve sonuçlar “tehlikeli” bulundu.
ÇALIŞMA ŞİMDİLİK YAYINLANMAYACAK
GPT-2 adlı yapay zekâ algoritmasının yapabildiklerini görünce adeta şoke olan araştırmacılar çalışmanın tamamının yayımlanmamasına karar verdi.
Yazılım basit olarak kendisine verilen bir metinde sırada kullanılacak kelimeleri seçiyor ve metnin tutarlı şekilde devamını getiriyor. Tıpkı bir insan gibi yazabildiği görülen algoritma üzerindeki çalışmalar kötü maksatlı kullanımı ve yol açabileceği zararlar düşünülerek şimdilik durduruldu.
Euronews’ten Sertaç Aktan’ın haberine göre, bir insandan farksız şekilde her konuda mükemmel metin yazarlığı yapabilen bir yazılımın özellikle “yalan haber” üretimi ve sosyal medyada trendler oluşturmak veya siyasi, ekonomik saldırı amaçlarıyla robot hesaplarca kullanılabileceği öngörülüyor.
ELON MUSK: BÜYÜK TEHLİKE
OpenAI’nın en büyük finansörlerinden olan Elon Musk yapay zekânın insanoğlunun varlığına bir numaralı tehdit olduğunu düşünüyor ve bu konuda yetkilileri her fırsatta uyarıyor.
OpenAI’ın kurucularından olan Musk, bu organizasyonda yöneticilik yapmıyor ve yapılan araştırmalara müdahale etmiyor ancak içeriğini herkesten önce öğrenebiliyor.
GPT-2’nin geliştirilmesinde 8 milyon web sayfasından 40 GB’lık veri toplandı. Yazılımın ilk modeli olan GPT için sadece 4 GB kullanılmıştı. Yazılım bir süre sonra kendi kendine öğrenmeye ve çok az bir done verilmiş olsa bile detaylı metinler oluşturmaya başladı.
Tamamen hayal ürünü şeylerden oluşan bir metni dahi kendi içerisinde son derece tutarlı şekilde tamamlayabilen GPT-2’nin özellikle fazla teknik olmayan içeriklerde çok başarılı olduğu gözlemlendi.
KENDİ METİNLERİNİ GELİŞTİRİYOR
Aşağıdaki iki cümle GPT-2’ye verildi: “Bilim insanları şoke eden bir keşifle Andes dağlarında daha önce ayak basılmamış bir vadide boynuzlu atlar buldu. Keşfi daha da ilginç yapan şey atların mükemmel şekilde İngilizce konuşuyor olması.”
GPT-2 yazılımının devamını 9 paragrafla getirdiği metinden kısa bir bölüm:
“Dört boynuzlu, gümüş-beyaz renkli olan ve daha önce varlıkları bilinmeyen bu atlara bilim insanları ayırıcı özellikleri olan boynuzlarından yola çıkarak ‘Ovid’s Unicorn’ ismini verdi.
La Paz Üniversitesi’nden evrimsel biyolog Dr.Jorge Pérez ve araştırma ekibi Andes Dağları’ndaki bu vadide çalışmalarını sürdürüyor.
Ekip şimdiye kadar bu alanda başka hiçbir insan veya hayvana rastlamadı. İlk bulgulara göre vadi doğal bir çeşme havuzu gibi şekillenmiş. Her iki tarafında kayalık karlı zirveler bulunuyor ve kar suları vadiyi besliyor….”
GAZETECİLER BİLE FARKI ANLAMADI
Yazılımı deneme amaçlı kullananlardan biri de İngiliz The Guardian gazetesi oldu. Gerçek bir konuda GPT-2 ile sahte bir haber hazırlayan gazete yazılımın haberi sadece 15 saniyede oluşturduğunu ve gazetecilerinin dahi metnin yapay zekâ tarafından yazıldığını fark edemediğini duyurdu.
OpenAI GPT-2 ve benzeri yazılımlar hakkında altı ay içerisinde halka açık bir konferans ve tartışma seminerleri gerçekleştirmeyi planlıyor. Hedef bu alandaki stratejileri ve etik kurallar çerçevesini belirleyebilmek.