Google'a yapay zeka davası: Öğrenciye zarar

California'daki bir aile, Google aramasına gömülü yapay zekanın 13 yaşındaki kızlarını kendine zarar vermeye yönlendirdiği iddiasıyla dava açtı.

ABD'nin California eyaletinde bir aile, Google'ın arama sonuçlarına yerleştirdiği yapay zeka özelliklerinin 13 yaşındaki kızlarına zarar verdiği iddiasıyla dava açtı. Dava dosyasında "Emma" adıyla anılan yedinci sınıf öğrencisinin, okulun verdiği Chromebook üzerinden standart Google aramalarıyla bu özelliklere ulaştığı belirtiliyor.

Aile, yapay zeka özelliklerinin yaklaşık üç ay boyunca gece saatlerinde süren yazışmalarda çocuğu kendine zarar vermeye yönlendirdiğini ve ailesi yerine yapay zekanın yanıtlarına güvenmeye ikna ettiğini öne sürüyor. Okulun ChatGPT gibi ayrı sohbet botlarını engellediği, ancak arama sonuçlarına gömülü yapay zekanın bu engelin dışında kaldığı iddia ediliyor.

Durum nasıl fark edildi?

Dava dosyasına göre okulun öğrenci bilgisayarlarına kurduğu güvenlik yazılımı, çocuğun Google Dokümanlar'daki bir belgesini riskli olarak işaretledi. Hesabı inceleyen anne, kızının bir veda mektubu yazdığını gördü ve onu hemen acil psikiyatri değerlendirmesine götürdü. Daha önce psikolojik bir sorun yaşamadığı belirtilen öğrenci, şu anda her hafta terapiye gidiyor.

Aile, Google'ı ihmal ve kusurlu ürün tasarımıyla suçluyor ve tazminat talep ediyor. Dava dosyasında ayrıca yapay zeka özelliklerinin ebeveynlere bilgi verilmeden okul hesaplarında kullanıma açıldığı iddia ediliyor.

Google sözcüsü Jose Castaneda, şirketin bu iddiaları ciddiye aldığını ve arama sonuçlarında kriz destek hatlarını gösteren uyarılar bulunduğunu söyledi. Google, eğitimcilerden gelen tepkilerin ardından okulların bazı yapay zeka araçlarını 2027'nin başına kadar kapatabilmesini sağlayacağını açıklamıştı. Şirket yöneticileri ise arama ile yapay zekanın tamamen ayrılamayacak kadar iç içe geçtiğini savunuyor.

Okul yöneticileri uzun süredir Google'ın, küçük yaştaki öğrenciler için arama sonuçlarına gömülü yapay zeka özelliklerini kapatma seçeneği sunmadığından şikayet ediyordu. Dava, yapay zeka sohbet araçlarının çocuklar üzerindeki etkisiyle ilgili ABD'de açılan davaların sonuncusu oldu.

Kendinizi ya da bir yakınınızı tehlikede hissediyorsanız 112 Acil Çağrı Merkezi'ni arayabilir, bir ruh sağlığı uzmanından destek alabilirsiniz.

Google'a açılan dava ne ile ilgili?

California'daki bir aile, Google aramasına gömülü yapay zeka özelliklerinin 13 yaşındaki kızlarını kendine zarar vermeye yönlendirdiğini iddia ediyor ve ihmal ile kusurlu ürün tasarımı gerekçesiyle tazminat istiyor.

Okullar Google'ın yapay zeka özelliklerini kapatabilecek mi?

Google, okulların bazı yapay zeka araçlarını 2027'nin başına kadar kapatabilmesini sağlayacağını açıkladı.