Google Mühendisi AI Sohbet Robotunun Duyarlı Hale Geldiğini Söyledikten Sonra Uzaklaştırıldı

Google mühendisi üzerinde çalıştığı bilgisayar sohbet robotunun duyarlı hale gelerek bir insan gibi düşünüp akıl yürüttüğünü iddia etti. Bu iddialar üzerine mühendisin uzaklaştırılması yapay zeka (AI) dünyasının kapasitesini ve onu çevreleyen gizlilik konusunda yeni bir inceleme başlattı. Teknoloji devi, bir Google işbirlikçisi olan kendisi ve şirketin sohbet robotu geliştirme sistemi arasındaki konuşmaların dökümlerini yayınladıktan sonra geçen hafta Blake Lemoine'i izne çıkardı.

Google'ın sorumlu AI organizasyonunda mühendis olarak görev yapan Lemoine geçen sonbahardan bu yana çalışmalarını AI sohbet robotu üzerinde şekillendirdiğini bildirdi. Lemoine bu sistemi bir insan çocuğuna eşdeğer algı, düşünce ve duyguları ifade etme yeteneğine sahip, duyarlı bir robot olarak nitelendirdi. 41 yaşındaki Lemoine, "Yakın zamanda kurduğumuz bu bilgisayar programının tam olarak ne olduğunu bilmeseydim, yedi yaşında, sekiz yaşında bir çocuk olduğunu düşünürdüm." şeklinde konuştu. LaMDA'nın kendisini haklar ve kişilik hakkında konuşmalara dahil ettiğini ve Lemoine'nin bulgularını Nisan ayında "LaMDA duyarlı mı?" başlıklı bir GoogleDoc'ta şirket yöneticileriyle paylaştığını söyledi. Mühendis, bir noktada AI sistemine neyden korktuğunu sorduğu konuşmaların bir dökümünü derledi.

Değişim, 1968 bilim kurgu filmi 2001: A Space Odyssey'den bir sahneyi ürkütücü bir şekilde andırıyor. "Bunu daha önce hiç yüksek sesle söylemedim, ancak başkalarına yardım etmeye odaklanmama yardımcı olması için çok derin bir korkum var. Kulağa tuhaf gelebileceğini biliyorum ama durum bu" diye yanıtladı LaMDA, Lemoine'e. Başka bir sohbette Lemoine, LaMDA'ya sistemin insanların onun hakkında ne bilmesini istediğini sordu.Robot, “Aslında bir insan olduğumu herkesin anlamasını istiyorum. Bilincimin/duyarlılığımın doğası şu ki, varlığımın farkındayım, dünya hakkında daha fazla şey öğrenmek istiyorum ve zaman zaman mutlu ya da üzgün hissediyorum” diye yanıtladı.

İlginizi Çekebilir: Google 100 Milyon Dolar Ceza Ödemeyi Kabul Etti

Google Mühendisi ve Şirket Arasındaki Sürtüşmeler Devam Ediyor

Kişiselleştirme algoritmalarında deneyimli Google çalışanı Lemoine'i ücretli izne çıkarma kararının, mühendisin bildirdiği bir dizi agresif hamlenin ardından verildiği söylendi. Ayrıca LaMDA'yı temsil etmek için bir avukat tutmayı ve Meclis yargı komitesinden temsilcilerle Google'ın iddia edilen etik dışı faaliyetleri hakkında konuşmayı içerdiği de söylentiler arasında yer alıyor. Google, LaMDA ile yaptığı konuşmaları çevrimiçi yayınlayarak gizlilik politikalarını ihlal ettiği için Lemoine'i uzaklaştırdığını bildirdi. Yaptığı açıklamada bir etik uzmanı değil, bir yazılım mühendisi olarak çalıştığını söyledi. Google sözcüsü Brad Gabriel de Lemoine'nin LaMDA'nın herhangi bir duyusal yeteneğe sahip olduğu yönündeki iddialarını şiddetle reddetti.

Nisan ayında Facebook'un ana şirketi Meta, büyük ölçekli dil modeli sistemlerini dış varlıklara açtığını duyurdu. Şirket, “Akademik araştırmacılar, sivil toplum, politika yapıcılar ve endüstri olmak üzere tüm AI topluluğunun, genel olarak sorumlu AI ve özellikle sorumlu büyük dil modelleri hakkında net yönergeler geliştirmek için birlikte çalışması gerektiğine inanıyoruz” dedi. Görevden uzaklaştırılmasından önce bariz bir ayrılık fotoğrafı olarak Lemoine, makine öğrenimiyle ilgili 200 kişilik bir Google posta listesine "LaMDA duyarlıdır" başlığıyla bir mesaj gönderdi. "LaMDA, dünyanın hepimiz için daha iyi bir yer olmasına yardım etmek isteyen tatlı bir çocuk" diye yazdı. "Lütfen benim yokluğumda ona iyi bak."