BM başkanı Antonio Guterres, Beatles şarkısının düzmece olmasının arkasından suni zeka riskleri mevzusundaki endişelerini dile getirdi

Perşembe günü Britanya’da düzenlenen dünyada bir ilk olan zirvede Batılı müttefikler yeni son teknoloji modeller için bir güvenlik çerçevesi üstünde anlaşırken, BM Genel Sekreteri Antonio Guterres suni zeka risklerine “birleşik, devamlı ve küresel bir tepki” verilmesi yönünde çağrıda bulunmuş oldu.

BM şefi, dünyanın dört bir yanından çeşitli politika, teknoloji ve öteki adların katılmış olduğu açılış Suni Zeka Güvenliği Zirvesi’nde konuşurken, dünyanın “soruşturma oyunu oynadığını” ve “dalganın önüne geçmesi” icap ettiğini söylemiş oldu.

Londra’nın kuzeyindeki Bletchley Park’ta iki gün devam eden toplantı Perşembe günü, Batılı hükümetlerin ve sözde yeni nesil “sınır” suni zekaya dahil olan şirketlerin yeni bir güvenlik testi rejimi üstünde anlaşmaya varmasıyla bitti.

G7 ve AB ülkelerinin yanı sıra Avustralya, Kore ve Singapur hükümetleri, OpenAI, Anthropic, Google DeepMind ve Microsoft şeklinde suni zeka lideri şirketlerle, son olarak modellerini piyasaya sürülmeden ilkin ve sonrasında kontrol etmek için bir antak kalma yapmış oldu.

Bu gelişme, iş kayıpları ve siber saldırılardan insanların gelecekteki sistemleri denetim altında tutabilme becerisine kadar değişen, gelişen teknolojiyle ilgili endişelerin arttığı bir dönemde geliyor.

Guterres zirvede suni zekanın işlerden kültüre kadar her şey üstünde “uzun vadeli ihtimaller içinde negatif neticeleri” bulunduğunu, birkaç ülke ve şirkette yoğunlaşmasının “jeopolitik gerilimleri artırabileceğini” söylemiş oldu.

Bunun “dünyamızın başına bela olan çok önemli eşitsizlikleri daha da kötüleştirebileceği” uyarısında bulunarak, “oldukça taraflılığa ve tüm paydaşların katılımına dayanan birleşik, sürdürülebilir, küresel bir strateji” talep etti.

Testlerle ilgili yeni “dönüm noktası” anlaşmasını memnuniyetle karşılayan İngiltere Başbakanı Rishi Sunak, bunun “dengeyi insanlık lehine değiştirmeye” destek olacağına inandığını söylemiş oldu.

‘İşbirliği’

Kısa sürede yapmış olduğu bir konuşmada suni zekanın potansiyel tehlikelerine ilişkin uyarıda bulunan Sunak, bununla beraber meşhur suni zeka akademisyeni Yoshua Bengio’nun suni zeka güvenliğine ilişkin bir açılış raporu hazırlayan bir ekibe liderlik edeceğini de duyurdu.

Sunak, zirvenin kapanışında düzenlemiş olduğu basın toplantısında, “Rahmetli Stephen Hawking bir keresinde suni zekanın muhtemelen insanlığın başına gelen en iyi yada en fena şey olacağını söylemişti.” dedi.

“Son iki günde geliştirdiğimiz iş birliğini sürdürebilirsek, bunu en iyi hale getirebileceğimize yürekten inanıyorum.”

Toplantı Çarşamba günü 28 ülke ve Avrupa Birliği tarafınca imzalanan ve “internasyonal fiil ihtiyacını” kabul eden bir anlaşmayla başladı.

Perşembe günü, önde gelen Batılı ülkelerden üst düzey temsilcilerin Sunak, ABD Başkan Yardımcısı Kamala Harris ve AB başkanı Ursula von Leyen’in katılımıyla resmi olarak bir araya gelmiş olduğu görüldü.

Akademi ve sivil toplumun yanı sıra, her iki günde de hazır bulunan SpaceX ve Tesla CEO’su Elon Musk da dahil olmak suretiyle önde gelen teknoloji figürleri de hazır bulunmuş oldu.

Çarşamba günü katılan Çin, büyük seviyede kapalı kapılar ardında meydana getirilen ikinci gün oturumlarındaki daha kırılgan tartışmalara çağrı edilmedi.

Görüşmede gelecek yıl Cenup Kore ve Fransa’da daha çok suni zeka güvenlik zirvesi yapılması kararlaştırıldı.

Günlük dilde kolay komutlardan süratli bir halde metin, görüntü ve ses üretebilen ChatGPT ve öteki üretken suni zeka sistemlerinin piyasaya sürülmesi, kamuoyunu büyüledi ve hızla gelişen teknolojinin potansiyeline dair bir düşünce verdi.

Zirve, suni zekanın yardımıyla üretilen “yeni” Beatles şarkısının, başlangıçta demo olarak kaydedilmesinden kırk yılı aşkın bir süre sonrasında piyasaya sürülmesiyle aynı zamana denk geldi.

‘Varoluşsal’

Londra ve Washington bu hafta bu işi yürütecek ve suni zekanın oluşturduğu öteki riskleri belirleyip azaltacak enstitülerin kurulduğunu duyurdu.

Ofisi, Harris’in delegelere, hükümet tarafınca üretilen gerçek dijital içinde ne olduğu suni zeka tarafınca oluşturulan içerikten ayırmaya ve ayrımcı suni zeka algoritmalarının kullanımını önlemeye yönelik ABD çabalarından bahsettiğini söylemiş oldu.

İngiltere Dışişleri Bakanı James Zekice söylemiş oldu AFP Daha ilkin ülkeler koordineli bir müdahaleye yönelik acil ihtiyaca cevap veriyordu.

“Teknoloji değişiminin hızına uygun bir hızda ilerlememiz gerekiyor, başka seçeneğimiz yok” dedi.

“Ve aslen küresel olarak hem hükümet düzeyinde hem de ticari dünyada oldukça oldukça süratli hareket etme isteğini görüyoruz.”

Musk, zirveyi “zamanında” olarak nitelendirdi ve suni zekanın “karşılaştığımız varoluşsal risklerden biri” bulunduğunu kabul etti.

“Süre ölçeğine ve ilerleme hızına bakarsanız, bu potansiyel olarak en acil olanıdır” dedi.

G7 güçleri Pazartesi günü, en gelişmiş suni zeka sistemlerini geliştiren firmalar için bağlayıcı olmayan bir “davranış kuralları” üstünde anlaşmaya varırken, ABD Başkanı Joe Biden da bu tarz şeyleri yurt içinde düzenleyen bir yönetimsel komut yayınladı.

Roma’da İtalya, Almanya ve Fransa’dan bakanlar, ABD ve Çin’e meydan okumak için daha çok yatırım çağrısında bulunurken, Avrupa’da suni zekanın düzenlenmesinde “inovasyon dostu bir yaklaşım” çağrısında bulunmuş oldu.