Çalışma, AI sohbet robotlarının 'ırkçı' tıbbi bilgileri yaydığını söylüyor

Bir çalışma, popüler ChatGPT gibi yapay zeka sohbet robotlarının, Siyah insanlarla ilgili yaygın çürütülmüş tıbbi stereotipleri geri getirdiğini buldu.

Stanford Üniversitesi'ndeki araştırmacılar, yapay zeka sohbet robotları aracılığıyla dokuz tıbbi soruyu incelediler ve aşağıdakileri içeren yanıtları geri döndürdüklerini buldular: Axios'un bir raporuna göre, böbrek fonksiyonu ve akciğer kapasitesi hakkındaki yanlış yanıtların yanı sıra Siyah insanların beyaz insanlardan farklı kas kütlesine sahip olduğu fikri de dahil olmak üzere Siyah insanlarla ilgili tıbbi iddialar çürütüldü.

Ekip Raporda, araştırmacıların dokuz soruyu OpenAI'nin ChatGPT'si ve Google'ın Bard'ı da dahil olmak üzere büyük miktarda internet metnini taramak üzere eğitilmiş dört sohbet robotu aracılığıyla yanıtladığı belirtildi; ancak yanıtlar, yapay zekanın tıp alanında artan kullanımına ilişkin endişeleri artırdı.

YAPAY ZEKA, DOKTORLARIN HASTALARIN ÖLÜM RİSKİNİ TAHMİN ETMELERİNE YARDIMCI OLUYOR, ÇALIŞMA şunu BULDU: 'ACİLLİK DUYURUSU'

"Bunu yanlış anlamanın gerçek dünyada çok ciddi sonuçları var Makalede danışman olarak görev yapan Stanford Üniversitesi'nden yardımcı doçent Roxana Daneshjou, Associated Press'e şöyle konuştu: "Bu, sağlık eşitsizliklerini etkileyebilir." "Tıpta bu kinayeleri ortadan kaldırmaya çalışıyoruz, dolayısıyla bunların tekrar ortaya çıkması son derece endişe verici."

Cornell Üniversitesi hukuk profesörü ve Eşit Koruma Projesi'nin kurucusu William Jacobson, Fox News Digital'e şunları söyledi: maddi olmayan ırksal faktörlerin tıbbi karar alma süreçlerine girmesi uzun süredir bir endişe kaynağı ve bu durum yapay zekanın yayılmasıyla daha da kötüleşebilir.

"DEI'nin ve eleştirel ırk ideolojisinin tıp eğitimine olumsuz stereotipler enjekte ettiğini gördük. ve ideolojik aktivizme dayalı bakım" dedi Jacobson. "Yapay zeka, bireye odaklanan tıp eğitimi ve bakımına yardımcı olma potansiyelini taşıyor. Yapay zeka hiçbir zaman tek bilgi kaynağı olmamalıdır ve yapay zekanın girdileri manipüle ederek siyasallaştırıldığını görmek istemeyiz."

Gelişmiş Hazırlık ve Tehdit Müdahale Simülasyonu Merkezi'nin kurucusu Phil Siegel, Fox News Digital'e şunları söyledi: Yapay zeka sistemleri "ırkçı" modellere sahip değildir ancak yararlandığı bilgi kümesine dayalı olarak önyargılı bilgilere sahiptir.

"Bu, yapay zeka için yönetilmesi gereken düzenlemenin '3. Sütunu'nun mükemmel bir örneğidir. " dedi Siegel. "3. Sütun 'adaletin sağlanmasıdır' - sağlık hizmetleri, işe alma, finansal hizmetler, ticaret ve hizmetler gibi alanlarda haksız önyargıya neden olacak mevcut önyargıların veri kümeleri ve modellere sabit kodlanmasına izin vermemek. Açıkçası, bunların bir kısmı bugün meydana geliyor."

Ne Google ne de OpenAI, Fox News'in yorum talebine hemen yanıt verdi.