Yapay Zeka yazılımı üreten firmayı bile korkuttu

OpenAL isimli araştırma şirketi tarafından geliştirilen, kendi başına metin oluşturan yazılım suistimal edilebileceği endişesi ile piyasaya sürülmüyor.

Yapay Zeka yazılımı üreten firmayı bile korkuttu

OpenAL isimli araştırma şirketi tarafından geliştirilen, kendi başına metin oluşturan yazılım suistimal edilebileceği endişesi ile piyasaya sürülmüyor.

23 Şubat 2019 Cumartesi 00:39
Yapay Zeka yazılımı üreten firmayı bile korkuttu
banner310


ABD’de kar amacı gütmeyen araştırma kuruluşu OpenAl tarafından geliştirilen Gpt2 isimli yazılım insan seslerini analiz ederek kendi başına metinler oluşturabiliyor. Ancak bu oluşan metinler o kadar gerçeği yakın ki, Gpt2’yi geliştirenler bu yazılımın piyasaya sürülmemesine karar verdi.

Destekçileri arasında Elon Musk’ın da bulunduğu OpenAl’ın temel çalışma biçimi yaptığı tüm yenilikleri kamuoyun açıklamak. Ancak yazılımcılar Gpt2’nin suistimal edilme ihtimalinin çok yüksek olduğunu düşünerek yayınlamama kararı aldı.

KENDİ BAŞINA METİN OLUŞTURUYOR

Geliştirilen yazılım verilen bir metne ilave edilecek uygun kelimeleri bulma ve uygun paragraflar geliştirme kabiliyetine sahip. Bu yazılım 8 milyon web sitesinden elde edilen 40 gigabayt veri ile eğitildi. Bunun için kullanıcıların tavsiyeleri de alındı. Toplanan bu veriler YZ’nın metinlerin temelinde yatan modelleri kavramasını sağlıyor.

Gpt2 böylece mevcut metnin içerik ve stiline uyum sağlayabiliyor. Bu çalışmanın sonucunda hayranlık veren neticelere ulaşıldı. Yapılan metin oluşturma denemelerin yüzde 50’sinde birbiriyle bağlantılı yeni metinlerin oluşması başarıldı. Gpt2 sadece yüksek teknolojik bilgiler ve ezoterik içiren metinlerde daha düşük bir başarı oranı sergiledi. Ancak okunulanı anlama ve neden niçin sorularına cevap verme konusunda elde edilen başarı da beklenilen çok üstünde oldu.

SUİSTİMAL ENDİŞESİ

Tam da bu yetenekler yazılımcıları endişeye sevk etti. Sistem yüksek maliyete neden olmadan fake haberler üretmeye, konuşmaları taklit etmeye ve sosyal ağlarda spam ve fake içerikleri dağıtmaya çok müsait. Sistem prensipte bir insanın yapabileceğinden daha fazla zarar vermiyor. Ama bir insana göre çok daha hızlı ve büyük caba sarfetmeden çalışıyor. OpenAL bu özelliklerin kötü niyetli kişiler tarafından kullanılmasından endişe ediyor. Ancak OpenAL sadece bu endişeleri gidermek için değil aynı zamanda YZ yazılımlarında suistimal konusunda farkındalık yaratmak amacıyla bu adımı attı.

TOPLUMSAL FARKINDALIK

OpenAL tarafından yapılan açıklamada, “Bu tür teknolojiler hizmete sunulmadan önce toplumun online metinlere karşı daha şüpheli davranmayı öğrenmesi gerekir“ denildi. Yazılımı geliştiren araştırma grubu ise bu tür sistemlerin YZ araştırmalarının ana merkezini oluşturduğu ve sınırlandırılması gerektiğini söyledi. Bu amaça yazılımın sadece örnek verilerle dar bir versiyonu açıklandı. Modelde kullanılan veri tabanı ve kodlar ise yayımlanmadı. OpenAl yazılımcıların toplumsal faydadan yüzde yüz emin olmadıkları için bu yöntemi seçtiklerine YZ konusunda benzeri tartışmaların gerekli olduğuna dikkat çekti.

Yorumlar
Avatar
Adınız
Yorum Gönder
Kalan Karakter:
Yorumunuz onaylanmak üzere yöneticiye iletilmiştir.×
Dikkat! Suç teşkil edecek, yasadışı, tehditkar, rahatsız edici, hakaret ve küfür içeren, aşağılayıcı, küçük düşürücü, kaba, müstehcen, ahlaka aykırı, kişilik haklarına zarar verici ya da benzeri niteliklerde içeriklerden doğan her türlü mali, hukuki, cezai, idari sorumluluk içeriği gönderen Üye/Üyeler’e aittir.