ChatGPT’yi yapan yapay zeka şirketinin başkanı Salı günü Kongre’ye, hükümet müdahalesinin giderek daha güçlü hale gelen AI sistemlerinin risklerini azaltmak için kritik olacağını söyledi.
“Bu teknoloji ilerledikçe, insanların yaşam biçimimizi nasıl değiştirebileceği konusunda endişeli olduklarını anlıyoruz. Biz de öyleyiz,” dedi OpenAI CEO’su Sam Altman Senato oturumunda.
Altman, en güçlü AI sistemlerini lisanslayacak ve “bu lisansı geri alma ve güvenlik standartlarına uyumu sağlama” yetkisine sahip olacak bir ABD veya küresel ajansın kurulmasını önerdi.
San Francisco merkezli girişimi, geçen yılın sonlarında ChatGPT’yi piyasaya sürdükten sonra halkın dikkatini çekti. Ücretsiz chatbot aracı, soruları inandırıcı bir şekilde insan benzeri yanıtlarla yanıtlar.
Eğitimciler arasında ChatGPT’nin ev ödevlerinde kopya çekmek için kullanılmasıyla ilgili bir panik olarak başlayan şey, en son “üretken yapay zeka” araçlarının insanları yanıltma, yalanlar yayma, telif hakkı korumalarını ihlal etme ve bazı işleri alt üst etme yeteneği hakkında daha geniş endişelere doğru genişledi.
Kongre’nin, Avrupalı milletvekillerinin yaptığı gibi, kapsamlı yeni yapay zeka kuralları oluşturacağına dair hemen bir işaret olmasa da, toplumsal kaygılar, Altman ve diğer teknoloji CEO’larını bu ayın başlarında Beyaz Saray’a getirdi ve ABD ajanslarının zararlı yapay zeka ürünlerine karşı önlem alma sözü vermesine yol açtı. mevcut medeni hakları ve tüketiciyi koruma yasalarını çiğneyen.
Senato Yargı Komitesi’nin gizlilik, teknoloji ve hukuk alt komitesine başkanlık eden Connecticut Demokratı Senatör Richard Blumenthal, duruşmayı senatörün sesine benzeyen, ancak aslında Blumenthal’ın salon konuşmaları ve ChatGPT okuması üzerine eğitilmiş bir ses klonu olan kayıtlı bir konuşmayla açtı. -yazılı açılış konuşmaları.
Blumenthal, sonucun etkileyici olduğunu söyledi, ancak “Ya ben sorsaydım ve ya Ukrayna’nın teslim olmasını ya da (Rusya Devlet Başkanı) Vladimir Putin’in liderliğini onaylasaydı?”
Senatörlerin sorularının genel tonu Salı günü nazikti; teknoloji ve sosyal medya yöneticilerinin, endüstrinin veri gizliliğini yönetme veya zararlı yanlış bilgilendirmeye karşı koyma konusundaki başarısızlıkları üzerine zorlu sorgularla karşı karşıya kaldıkları geçmiş kongre oturumlarının aksine. Bunun nedeni kısmen, hem Demokratların hem de Cumhuriyetçilerin Altman’ın henüz gerçekleşmemiş sorunları önleme konusundaki uzmanlığını aramakla ilgilendiklerini söylemeleriydi.
Blumenthal, AI şirketlerinin sistemlerini piyasaya sürmeden önce test etmeleri ve bilinen riskleri ifşa etmeleri gerektiğini söyledi ve gelecekteki AI sistemlerinin iş piyasasını nasıl istikrarsızlaştırabileceği konusunda özel endişelerini dile getirdi. Altman, işin geleceği konusunda daha iyimser bir yaklaşıma sahip olsa da, büyük ölçüde aynı fikirdeydi.
Yapay zeka konusundaki en büyük korkusuna baskı yapan Altman, endüstrinin “dünyaya önemli zararlar verebileceğini” ve “bu teknoloji ters giderse, oldukça ters gidebileceğini” söylemek dışında, çoğunlukla ayrıntılardan kaçındı.
Ancak daha sonra, yeni bir düzenleyici kurumun, “kendi kendini kopyalayabilen ve kendi kendine doğaya sızabilen” yapay zeka modellerini engelleyecek önlemler alması gerektiğini öne sürdü – bu da, insanları kontrolü devredecek şekilde manipüle edebilecek gelişmiş yapay zeka sistemleriyle ilgili fütüristik endişelere işaret ediyor.
Eski bir yetkili, süper güçlü yapay zekanın uzak bir “bilim kurgu kinayesine” odaklanmanın, düzenleyicilerin veri şeffaflığı, ayrımcı davranış ve hile ve dezenformasyon potansiyeli konusunda derinlemesine inceleme yapmasını gerektiren halihazırda var olan zararlara karşı harekete geçmeyi zorlaştırabileceğini söyledi. Bir AI haklar beyannamesi planını birlikte yazan Biden yönetim yetkilisi.
Brown Üniversitesi’nde bilim ve adaletten sorumlu müdür yardımcısı olan Suresh Venkatasubramanian, “Bu (süper güçlü) sistemlerden duyulan korku ve bizim onları anlamamamız herkesi toplu bir korkuya sevk ediyor” dedi. Beyaz Saray Bilim ve Teknoloji Politikası Ofisi. “Çok temelsiz olan bu korku, şu anda uğraştığımız tüm endişelerden dikkati dağıtıyor.”
OpenAI, başlangıcından bu yana bu varoluşsal kaygıları dile getirdi. Teknoloji milyarderi Elon Musk’ın desteğiyle 2015 yılında Altman tarafından ortaklaşa kurulan girişim, güvenlik odaklı bir misyona sahip kar amacı gütmeyen bir araştırma laboratuvarından bir işletmeye dönüştü. Diğer popüler AI ürünleri, görüntü oluşturucu DALL-E’yi içerir. Microsoft, startup’a milyarlarca dolar yatırım yaptı ve teknolojisini arama motoru Bing de dahil olmak üzere kendi ürünlerine entegre etti.
Altman ayrıca, politika yapıcılar ve halkla teknoloji hakkında konuşmak için bu ay ulusal başkentlere ve altı kıtadaki büyük şehirlere dünya çapında bir tura çıkmayı planlıyor. Senato ifadesinin arifesinde düzinelerce ABD’li milletvekiliyle yemek yedi ve bunların birçoğu CNBC’ye yorumlarından etkilendiklerini söyledi.
Ayrıca, IBM’in baş gizlilik ve güven sorumlusu Christina Montgomery ve OpenAI ve diğer teknoloji şirketlerini daha güçlü AI modelleri geliştirmelerini durdurmaya çağıran bir grup AI uzmanı arasında yer alan New York Üniversitesi’nde fahri profesör olan Gary Marcus da ifade verdi. topluma riskleri düşünmesi için daha fazla zaman tanımak için altı ay. Mektup, OpenAI’nin ChatGPT’den daha güçlü olarak tanımlanan en son modeli GPT-4’ün Mart sürümüne bir yanıttı.
Panelin önde gelen Cumhuriyetçi üyesi Missouri Senatörü Josh Hawley, teknolojinin seçimler, istihdam ve ulusal güvenlik üzerinde büyük etkileri olduğunu söyledi. Salı günkü duruşmanın “Kongre’nin ne yapması gerektiğini anlamak için kritik bir ilk adım” olduğunu söyledi.
Bazı teknoloji endüstrisi liderleri, bir tür yapay zeka gözetimini memnuniyetle karşıladıklarını söylediler, ancak aşırı katı kurallar olarak gördükleri şeylere karşı uyarıda bulundular. Altman ve Marcus, tercihen uluslararası bir yapay zeka odaklı düzenleyici için çağrıda bulundular; Altman, BM’nin nükleer ajansının emsaline atıfta bulundu ve Marcus, bunu ABD Gıda ve İlaç İdaresi ile karşılaştırdı. Ancak IBM’den Montgomery bunun yerine Kongre’den bir “hassas düzenleme” yaklaşımı benimsemesini istedi.
Montgomery, teknolojinin kendisinden ziyade belirli AI kullanımlarının dağıtımını yöneten kurallar oluşturarak, “Yapay zekanın esasen risk noktasında düzenlenmesi gerektiğini düşünüyoruz” dedi.
