Avrupa, ChatGPT’de Alarm Veriyor
Avrupa, ChatGPT‘de Alarm Veriyor
Avrupa, ChatGPT’de Alarm Veriyor! Aralık Ayından Bu Yana 1,6 Milyardan Fazla Ziyaret Edildi
ChatGPT gibi üretken yapay zeka (AI) platformlarının oluşturduğu artan risklerden endişe duyan Avrupa’daki düzenleyiciler ve kolluk kuvvetleri, insanlığın dijital geleceğe amansız geçişini yavaşlatmanın yollarını arıyor.
Denemeler, şiirler, e-tablolar ve bilgisayar kodu şeklindeki kullanıcı sorgularına yanıt veren ChatGPT, birkaç güvenlik önlemi ile Aralık ayından bu yana 1,6 milyardan fazla ziyaret kaydetti. Avrupa Birliği Kolluk Kuvvetleri İşbirliği Ajansı Europol, Mart ayı sonunda, şu anda kullanımda olan binlerce yapay zeka platformundan yalnızca biri olan ChatGPT’nin suçlulara kimlik avı, kötü amaçlı yazılım oluşturma ve hatta terör eylemleri konusunda yardımcı olabileceği konusunda uyardı.
Europol raporunda, “Potansiyel bir suçlu belirli bir suç alanı hakkında hiçbir şey bilmiyorsa, ChatGPT sonraki adımlarda daha fazla keşfedilebilecek önemli bilgiler sunarak araştırma sürecini önemli ölçüde hızlandırabilir. “Bu nedenle ChatGPT, bir eve nasıl girileceğinden terörizm, siber suçlar ve çocukların cinsel istismarına kadar çok sayıda potansiyel suç alanı hakkında önceden bilgi sahibi olmadan bilgi edinmek için kullanılabilir.” Bu nedenle Avrupa, ChatGPT’de kötüye kullanımda önlem almak istiyor.
Geçen ay İtalya, bir aksaklık kullanıcı dosyalarını açığa çıkardıktan sonra ChatGPT’ye geçici bir yasak getirdi. İtalyan gizlilik hakları kurulu Garante, programın yaratıcısı OpenAI‘yi, kullanıcıların bilgilerinin nereye gittiği sorularını yanıtlayana ve platformda yaş kısıtlamaları getirene kadar gizlilik ihlalleri nedeniyle milyonlarca dolar para cezasıyla tehdit etti. İspanya, Fransa ve Almanya, kişisel veri ihlallerine ilişkin şikayetleri inceliyor ve bu ay AB’nin Avrupa Veri Koruma Kurulu, 27 ülkeden oluşan Avrupa Birliği genelinde düzenlemeleri koordine etmek için bir görev gücü oluşturdu.
Avrupa Parlamentosu’nda sonuçlandırılmakta olan ve merkezi bir yapay zeka otoritesi kuracak olan Yapay Zeka Yasası’nın eş-sponsoru AB yasa koyucusu Dragos Tudorache, Yahoo News’e “Bu, Avrupa’da bir uyandırma çağrısı” dedi. “Neler olup bittiğini ve kuralları nasıl çerçevelendireceğimizi çok net bir şekilde ayırt etmeliyiz.”
Yapay zeka birkaç yıldır günlük yaşamın bir parçası olmasına rağmen – Amazon’un Alexa’sı ve çevrimiçi satranç oyunları birçok örnekten sadece ikisidir, Avrupa, ChatGPT’de Endişeli!
Kullanıcıların yapabileceği etkileşimli bir “büyük dil modeli” olan ChatGPT gibi hiçbir şey yapay zekanın potansiyelini eve getirmedi. Saniyeler içinde yanıtlanan sorular veya tamamlanan görevler içeriyor.
Bilime dayalı inovasyona odaklanan Barselona merkezli bir danışmanlık ajansı olan Futurity Systems’in kurucu ortağı Mark Bünger, “ChatGPT, çok az insanın bile sahip olduğu bilgiye sahip” dedi. “Çoğu insandan daha iyi bildiği şeyler arasında bir bilgisayarın nasıl programlanacağı da var. Bu nedenle, kendisinin bir sonraki, daha iyi sürümünü programlamak muhtemelen çok iyi ve çok hızlı olacaktır. Ve bu sürüm daha da iyi olacak ve hiçbir insanın anlamadığı bir şey programlayacak.”
Şaşırtıcı derecede verimli teknoloji, okullarda kimlik hırsızlığı ve intihal de dahil olmak üzere her türlü dolandırıcılığa kapı aralıyor.
Edinburgh Robotik Merkezi müdür yardımcısı Nick Taylor, “Eğitimciler için, gönderilen derslerin OpenAI’nin ChatGPT’si veya Google’ın Bard’ı gibi üretken bir yapay zeka sistemi tarafından desteklenmiş veya hatta tamamen bu sistem tarafından yazılmış olma olasılığı endişe nedenidir.”
OpenAI’yi finansal olarak destekleyen ancak rakip bir sohbet robotu geliştiren OpenAI ve Microsoft, bu makale için yorum talebine yanıt vermedi.
Futurity Systems CEO’su Cecilia Tham, “Yapay zeka onlarca yıldır var, ancak herkesin kullanımına açık olduğu için şimdi patlama yaşıyor” dedi. Tham, ChatGPT’nin 30 Kasım’da halka ücretsiz bir deneme olarak sunulmasından bu yana, programcıların bunu ev bitkilerini izlemeye yardımcı olan PlantGPT’den varsayımsal ChaosGPT’ye kadar binlerce yeni sohbet robotu geliştirmek için uyarladığını söyledi. Web sitesine göre kaotik veya öngörülemeyen çıktılar” ve nihayetinde “insanlığı yok etmek” var.
Autonomous GPT’nin kısaltması olan başka bir varyasyon olan AutoGPT, daha karmaşık hedefe yönelik görevleri gerçekleştirebilir
“Örneğin,” dedi Tham, “‘Günde 1.000 Euro kazanmak istiyorum‘ diyebilirsiniz. Bunu nasıl yapabilirim?’- ve bu amaca giden tüm ara adımları çözecektir. Ama ya biri ‘1000 kişiyi öldürmek istiyorum‘ derse. Bunu yapmak için bana her adımı ver’?” ChatGPT modelinin verebileceği bilgilerde kısıtlamalar olsa da, “insanların bu bilgileri hack’lediğini” belirtiyor.
Sohbet robotlarının ve genel olarak yapay zekanın potansiyel tehlikeleri, teknoloji odaklı bir düşünce kuruluşu olan Life of Life Enstitüsü’nün geçen ay yapay zeka gelişiminin geçici olarak durdurulmasını isteyen bir açık mektup yayınlamasına neden oldu. Elon Musk ve Apple’ın kurucu ortağı Steve Wozniak tarafından imzalanan belgede, “insan-rekabetçi zekaya sahip yapay zeka sistemlerinin toplum ve insanlık için büyük riskler oluşturabileceği” ve “yapay zeka laboratuvarlarının kontrolden çıkmış bir hiç kimsenin – yaratıcılarının bile – anlayamayacağı, tahmin edemeyeceği veya güvenilir bir şekilde kontrol edemeyeceği çok daha güçlü dijital zihinler geliştirin ve devreye alın.”
İmzacılar, GPT-4‘ten daha güçlü yapay zeka sistemlerinin geliştirilmesine altı aylık bir ara verilmesi çağrısında bulundular, böylece düzenlemeler yürürlüğe konulabilir ve sektördeki kilit oyuncular gönüllü olarak bunu yapmazsa hükümetlerden bu yüzden “bir moratoryum tesis etmelerini” istediler.
Yapay Zeka Yasası’nın eş-sponsoru AB parlamenter Brando Benifei bu fikre alay ediyor. Yahoo News’e “Bir moratoryum gerçekçi değil” dedi. “Yapmamız gereken, AI’nın gelişimi için doğru kuralları bulmak için çalışmaya devam etmek,” dedi ve “Bu çok güçlü AI’nın zorluklarının nasıl ele alınacağına dair küresel bir tartışmaya da ihtiyacımız var” dedi.
Bu hafta, AI üzerinde çalışan AB yasa koyucuları, Başkan Biden ve Avrupa Komisyonu Başkanı Ursula von der Leyen’den “kalkınma için bir ön yönetim ilkeleri seti” oluşturmak için “üst düzey bir küresel zirve düzenlemelerini” talep eden bir “harekete geçirici mesaj” yayınladılar. AI’nın kontrolü ve dağıtımı”.
Tudorache, Yahoo News’e gelecek yıl yürürlüğe girmesi beklenen AI Yasasının “yapay zeka uygulamalarıyla başa çıkmak için düzenleyicilere yeni yetkiler getirdiğini” ve AB düzenleyicilerine ağır para cezaları dağıtma yetkisi verdiğini söyledi. Mevzuat ayrıca, şu anda yasaklanmış olanlar da dahil olmak üzere çeşitli AI etkinliklerinin risk sıralamasını içerir – örneğin , neredeyse her sosyal etkileşimi bir liyakat ölçeğinde derecelendiren distopik bir izleme şeması olan ” sosyal puanlama ” gibi.
Avrupa Tüketici Örgütü’nün (BEUC) iletişim başkan yardımcısı Sébastien Pant, Yahoo News’e “Tüketiciler, ChatGPT’nin hangi verileri kullandığını ve depoladığını ve ne için kullanıldığını bilmelidir” dedi. “Hangi verilerin kullanıldığı veya veri toplamanın veri koruma yasasına uyup uymadığı henüz bizim için net değil.”
Bu arada ABD, FTC Komiseri Alvaro Bedoya tarafından yakın zamanda dile getirilen “AI şu anda kimi işe alacağına, kimi kovacağına, kimin kredi alacağına, kimin kalacağına karar vermek için kullanılıyor” şeklindeki endişelerine rağmen, yapay zekayı düzenlemek için somut adımlar atmakta gecikmeye devam ediyor, hastanede ve kim eve gönderilecek.
Biden’a yakın zamanda yapay zekanın tehlikeli olup olmadığı sorulduğunda, “Görülmesi gerekiyor – olabilir” yanıtını verdi.
Veri korumaya odaklanan bir düşünce kuruluşu olan Future of Privacy Forum’un küresel gizlilikten sorumlu başkan yardımcısı Gabriela Zanfir-Fortuna, Yahoo News’e verdiği demeçte, tüketicilerin kişisel verilerini korumaya yönelik farklı tutumların onlarca yıl öncesine dayandığını söyledi.
Zanfirt-Fortuna, “AB, bu yeni bilgisayarlı, dijital çağda kişisel verileri otomatikleştirerek insanların haklarının nasıl etkilendiğine büyük önem verdi ve Temel Haklar Şartı’na bir hüküm ekledi” dedi
Almanya, İsveç ve Fransa gibi Avrupa ülkeleri veri koruma yasalarını 50 yıl önce kabul etti. “Ülke federal düzeyde hâlâ genel bir veri koruma yasasına sahip olmadığı için ABD’li milletvekilleri geçtiğimiz yıllarda bu konuyla daha az ilgileniyor gibi görünüyor.”
Bu arada, “Technology vs. Humanity” kitabının yazarı Gerd Leonhard ve diğerleri, ChatGPT ve yapay zekanın daha gelişmiş biçimleri ordu, bankacılık kurumları ve çevre sorunları üzerinde çalışanlar tarafından kullanıldığında ne olacağı konusunda endişeleniyorlar.
Leonhard, “Yapay zeka topluluğunda süregelen şaka, yapay zekadan iklim değişikliğini düzeltmesini isterseniz, tüm insanları öldüreceğidir” dedi. Bizim için sakıncalı ama en mantıklı cevap bu.”
Avrupa, ChatGPT’de Alarm Veriyor-Kaynak: yahoo
