Elon Musk Yapay Zeka Çalışmalarına Ara Verilmesi Çağrısında Bulundu

Elon Musk ve bir grup yapay zeka uzmanı ve endüstri yöneticisi, toplum ve insanlık için potansiyel riskleri gerekçe gösterdikleri bir açık mektupla, OpenAI'nin yeni piyasaya sürdüğü GPT-4'ten daha güçlü sistemlerin geliştirilmesine altı ay ara verilmesi çağrısında bulunuyor.

Mektupta Meta ve Alphabet'in sahip olduğu DeepMind mühendislerinin yanı sıra, Stability AI tepe yöneticisi Emad Mostaque ile Yoshua Bengio ve Stuart Russell gibi yapay zeka uzmanlarının da imzasının bulunması dikkat çekti.

Bu ayın başlarında Microsoft destekli OpenAI, kullanıcılarla insan gibi sohbet etmekten şarkı bestelemeye ve uzun belgeleri özetlemeye kadar çok çeşitli uygulamalarıyla kullanıcıları büyüleyen GPT (Generative Pre-trained Transformer) yapay zeka programının dördüncü iterasyonunu tanıttı.

Kâr amacı gütmeyen Future of Life Institute tarafından hazırlanan ve Musk'ın da aralarında bulunduğu 1.000'den fazla kişi tarafından imzalanan mektupta, bu tür tasarımlar için ortak güvenlik protokolleri geliştirilinceye, uygulanıncaya ve bağımsız uzmanlar tarafından denetleninceye kadar gelişmiş YZ geliştirilmesine ara verilmesi çağrısında bulunuldu.

Mektupta, "Güçlü Yapay Zeka sistemleri, ancak etkilerinin olumlu olacağından ve risklerinin yönetilebilir durumda olacağından emin olduğumuzda geliştirilmelidir" denildi.

OpenAI yorum talebine hemen yanıt vermedi.

Mektupta, insan-rekabetçi AI sistemlerinin ekonomik ve politik aksaklıklar şeklinde topluma ve uygarlığa yönelik potansiyel riskleri ayrıntılı olarak açıklandı ve geliştiricilere yönetişim ve düzenleyici otoriteler konusunda politika yapıcılarla birlikte çalışma çağrısında bulunuldu.

Ortak imzacılar arasında Stability AI CEO'su Emad Mostaque, Alphabet'in sahibi olduğu DeepMind'daki araştırmacılar ve genellikle "yapay zekanın vaftiz babalarından" biri olarak anılan yapay zekanın ağır toplarından Yoshua Bengio ve bu alandaki araştırmaların öncülerinden Stuart Russell yer aldı.

Avrupa Birliği'nin şeffaflık kayıtlarına göre, Yaşamın Geleceği Enstitüsü öncelikle Musk Vakfı'nın yanı sıra Londra merkezli etkin fedakarlık grubu Founders Pledge ve Silicon Valley Community Foundation tarafından finanse ediliyor.

Endişeler, AB polis gücü Europol'ün Pazartesi günü ChatGPT gibi gelişmiş yapay zekaya ilişkin etik ve yasal endişeler korosuna katılarak sistemin kimlik avı girişimleri, dezenformasyon ve siber suçlarda potansiyel kötüye kullanımı konusunda uyarıda bulunmasıyla ortaya çıktı.

Geçmişte yapay zeka (AI) konusunda endişelerini dile getiren Elon Musk, Tesla'nın otopilot sistemi için AI kullanıyor. OpenAI'nin geçen yıl piyasaya sürdüğü büyük bir dil modeli olan ChatGPT, rakipleri benzer modeller geliştirmeye ve şirketleri üretken yapay zekayı ürünlerine entegre etmeye teşvik etti.

Yakın zamanda OpenAI, hizmetlerini ChatGPT'ye entegre etmek için yaklaşık bir düzine firmayla ortaklık kurarak kullanıcıların Instacart üzerinden market alışverişi sipariş etmesine ya da Expedia üzerinden uçuş rezervasyonu yapmasına olanak tanıdı.

OpenAI CEO'su Sam Altman, yapay zeka araştırmalarında dikkatli olunması çağrısında bulunan mektubu imzalamamış olsa da, Future of Life'ın bir sözcüsü şirketin mektubun ruhunu desteklediğini doğruladı.

Dünya Bankası’ndan Ekonomide 'Kayıp 10 Yıl' Uyarısı