Uyarı, bu yılın başlarında yapay zeka gelişimine altı aylık bir ara verilmesi çağrısında bulunan açık mektubun ardından geldi.
Taipei Tayvan – Önde gelen bilgisayar bilimcileri ve teknoloji uzmanları, yapay zekanın küresel eylem çağrısı yapan bir “yok olma riski” oluşturduğu konusunda uyarıda bulundu.
AI Güvenliği Merkezi tarafından yayınlanan kısa bir açıklamada, bir grup AI uzmanı ve diğer yüksek profilli figürler, “AI’dan yok olma riskini azaltmak, salgın hastalıklar ve nükleer savaş gibi diğer toplumsal ölçekli risklerin yanı sıra küresel bir öncelik olmalıdır” dedi. Salı günü San Francisco merkezli bir araştırma ve savunuculuk grubu.
İmzacılar arasında OpenAI CEO’su Sam Altman, “AI’nın vaftiz babası” olarak bilinen Geoffrey Hinton ve Tayvan’ın dijital bakanı Audrey Tang gibi teknoloji uzmanlarının yanı sıra sinirbilimci Sam Harris ve müzisyen Grimes gibi diğer önemli isimler yer alıyor. .
Uyarı, Elon Musk ve diğer yüksek profilli kişiler tarafından Mart ayında imzalanan ve OpenAI’nin GPT-4’ünden daha gelişmiş yapay zekanın geliştirilmesine altı aylık bir ara verilmesi çağrısında bulunan açık bir mektubun ardından geldi.
Mektupta, “Güçlü yapay zeka sistemleri, yalnızca etkilerinin olumlu olacağından ve risklerinin yönetilebilir olacağından emin olduğumuzda geliştirilmelidir” denildi.
Yapay zekanın hızlı ilerlemesi, kitlesel iş kayıpları ve telif hakkı ihlallerinden yanlış bilgilerin yayılmasına ve siyasi istikrarsızlığa kadar toplum için olası olumsuz sonuçlarla ilgili endişeleri artırdı. Bazı uzmanlar, insanlığın bir gün teknolojinin kontrolünü kaybedebileceği korkusunu dile getirdi.
Mevcut yapay zeka henüz potansiyel olarak bağımsız kararlar almasına izin veren yapay genel zekaya (AGI) ulaşmamış olsa da, Mart ayında Microsoft’taki araştırmacılar GPT-4’ün “YG’nin kıvılcımlarını” gösterdiğini ve “yeni ve zor görevleri” çözebildiğini söyledi. matematik, kodlama, görme, tıp, hukuk, psikoloji ve daha fazlası, herhangi bir özel yönlendirmeye ihtiyaç duymadan”.
O zamandan beri, AI’nın potansiyel tehlikelerine ilişkin uyarılar arttı.
Geçen ay ünlü bir bilgisayar bilimcisi olan Hinton, yapay zekanın risklerini savunmak için daha fazla zaman harcayabilmek için Google’daki işinden ayrıldı.
Altman, bu ayın başlarında Amerika Birleşik Devletleri Kongresi’nde yaptığı bir konuşmada, yasa koyucuları AI teknolojisi için hızlı bir şekilde düzenlemeler geliştirmeye çağırdı ve lisanslamaya dayalı bir yaklaşım önerdi.
ABD ve diğer ülkeler, gözetim ihtiyacını gelecek vaat eden teknoloji ile dengeleyen bir yasa çıkarmak için çabalıyorlar.
Avrupa Birliği, yapay zekayı riske dayalı dört kategoride sınıflandıracak yasayı yıl sonuna kadar geçirmeyi umduğunu söyledi.
Çin ayrıca yapay zekayı düzenlemek için adımlar attı, derin sahtekarlıkları yöneten yasaları geçirdi ve şirketlerin algoritmalarını düzenleyicilere kaydetmesini zorunlu kıldı.
Pekin ayrıca, politik olarak hassas içeriği kısıtlamak için katı kurallar önerdi ve geliştiricilerin üretken yapay zeka tabanlı teknolojiyi piyasaya sürmeden önce onay almasını zorunlu kıldı.
