İtalya Replika'nın Kişisel Verileri Kullanmasını Yasakladı

İtalya Veri Koruma Ajansı Cuma günü yaptığı açıklamada, yapay zeka (AI) chatbot şirketi Replika'nın İtalyan kullanıcıların kişisel verilerini kullanmasını, reşit olmayanlar ve duygusal olarak kırılgan kişiler için riskleri gerekçe göstererek yasakladığını duyurdu.

San Francisco'da 2017 yılında kurulan Replika, kullanıcılara kendileriyle konuşan ve onları dinleyen özelleştirilmiş avatarlar sunuyor.

İngilizce konuşanlar arasında başı çeken ve kullanımı ücretsiz olan Replika, sesli sohbetler gibi bonus özelliklerin satışından aylık yaklaşık 2 milyon dolar gelir elde ediyor.

'Sanal arkadaş', kullanıcının duygusal refahını artırabileceği şeklinde pazarlanıyor.

Ancak İtalyan gözlemci, kullanıcının ruh haline müdahale ederek "hala gelişim aşamasında olan veya duygusal kırılganlık durumundaki bireyler için riskleri artırabileceğini" söyledi.

Çocukların mahremiyetini savunan Defend Digital Me adlı grubun direktörü Jen Persson Reuters'a yaptığı açıklamada, bir çocuğun ruh halini ya da zihinsel sağlığını etkilemek üzere tasarlanan araçların sağlık ürünleri olarak sınıflandırılması ve dolayısıyla sıkı güvenlik standartlarına tabi olması gerektiğini söyledi.

"Bu araçlar çocuklarla birlikte çok fazla gözetim veya potansiyel kötüye kullanıma karşı koruma olmaksızın kullanılıyor" dedi.

İtalyan düzenleyiciler, reşit olmayanlar için filtreler veya kullanıcıların yaşlarını açıkça belirtmemeleri halinde engelleme cihazı gibi bir yaş doğrulama mekanizmasının bulunmadığının altını çizdi.

Gözlemci, Replika'nın Avrupa Gizlilik Yönetmeliğini ihlal ettiğini ve reşit olmayan bir kişinin imzalayamayacağı bir sözleşmeye dolaylı olarak bile dayanamayacağı için kişisel verileri hukuka aykırı bir şekilde işlediğini söyledi.

Danışmanlık firması Alvarez & Marsal'da genel müdür olan Robert Grosvenor, İtalyan gözlemcinin Replika gibi şirketlere karşı harekete geçmeyi düşünen tek Avrupalı düzenleyici olma ihtimalinin düşük olduğunu söyledi.

"Yaş doğrulaması, en savunmasız gruplardan bazılarını korumak için araçlar sağlayabilirken, yapay zeka tabanlı hizmetlerin ve çözümlerin düzenlenmediği takdirde, istenmeyen önyargı ve ayrımcılık potansiyeli açısından ortaya çıkarabileceği riskleri ve zararları ele almıyor" dedi.

Açıklamada, Replika'nın geliştiricisi ABD şirketi Luka Inc'in, gerekliliklerini yerine getirmek için aldığı önlemleri 20 gün içinde İtalyan makamına bildirmesi gerektiği ve 20 milyon avroya (21,80 milyon dolar) veya küresel yıllık cirosunun %4'üne kadar para cezasına çarptırılabileceği belirtildi.