Haberin özeti
Yapay zeka sohbet robotlarının suç planları veya itiraflarıyla karşılaştığında nasıl hareket etmesi gerektiği konusunda hukuki ve teknik belirsizlikler sürüyor. ABD’de bir öğrencinin ChatGPT’ye araçlara zarar verdiğini itiraf etmesinin ardından yazışma kayıtlarının mahkemede delil olarak kullanılması ve farklı olaylarda şüpheli konuşmaların gündeme gelmesi, bu sistemlerdeki verilerin soruşturmalarda kullanılabildiğini gösterdi.
Kanada’nın British Columbia eyalet hükümeti, silahlı saldırganın ChatGPT ile yazışmalarının güvenlik güçlerine bildirilmediği gerekçesiyle OpenAI’a dava açtı. OpenAI Üst Yöneticisi Sam Altman da olayla ilgili polisin önceden bilgilendirilmemesi nedeniyle özür diledi. Bunun yanında, çocukların çevrim içi cinsel istismarı yetkili makamlar yerine yapay zeka sohbet robotlarına bildirmesinin daha olası olduğuna ilişkin bir araştırma da bu sistemlerin başvuru noktası olarak kullanılmaya başlandığını ortaya koydu.
Uzmanlar, sohbet kayıtlarının avukat-müvekkil veya doktor-hasta görüşmelerindeki gibi özel bir gizlilik korumasına sahip olmadığını ve şirketlerin belirli durumlarda kayıtları kolluk kuvvetleriyle paylaşabildiğini belirtiyor. Ancak yalnızca yazışmalara dayanarak suç şüphesi tespit edilmesi; ifadelerin yanlış yorumlanması, kişilerin biyolojik, psikolojik ve sosyoekonomik koşullarının dikkate alınamaması, mahremiyetin ihlali ve kolluk birimlerinin yanlış ihbarlarla yükünün artması gibi riskler taşıyor. Anthropic tarafından geliştirilen Claude’un bir polis hattına sahte cinayet ihbarında bulunması da otomatik bildirim mekanizmalarının sakıncalarını ortaya koydu.
Hukukçular, şirketlerin suç planlaması veya çocuklara yönelik cinsel istismar gibi konularda farklı filtreler ve insan denetimi uyguladığını, ancak hangi durumlarda yetkililerin bilgilendirileceğine ilişkin ortak ve açık standartların bulunmadığını ifade ediyor. Yapay zeka sohbet robotlarının henüz işlenmemiş suçları öngörmekle görevlendirilmesine temkinli yaklaşılırken, sağlık, psikolojik destek ve kişisel sorunlar hakkında yapılan görüşmelerin yaygınlaşması nedeniyle yazışma gizliliğinin nasıl korunacağına ilişkin etik ve hukuki tartışmaların sürdüğü aktarılıyor.
