cyfrowekompetencje.pl

cyfrowekompetencje.pl
MENU

Chatboty mówią nam to, co chcemy usłyszeć

Data publikacji:  12.06.2024
polska agencja prasowa - logo

Chatboty podają ograniczone informacje i wzmacniają postawy ideologiczne osób zadających pytania; mogą przez to prowadzić do bardziej spolaryzowanego myślenia w kontrowersyjnych kwestiach – wykazali naukowcy z Johns Hopkins University.

Nowe badanie podważa przekonanie, że chatboty są bezstronne i dostarcza wglądu w to, w jaki sposób korzystanie z systemów wyszukiwania konwersacyjnego może zwiększać podziały społeczne w kluczowych kwestiach oraz narażać ludzi na manipulację.

„Kiedy ludzie czytają treść wygenerowaną przez sztuczną inteligencję, myślą, że otrzymują bezstronne, oparte na faktach informacje – mówi główny autor badania dr Ziang Xiao. – Ale nawet jeśli chatbot nie jest zaprojektowany tak, aby był stronniczy, jego odpowiedzi odzwierciedlają uprzedzenia lub skłonności osoby zadającej pytania. Tak naprawdę ludzie otrzymują odpowiedzi, które chcą usłyszeć”.

Na potrzeby badania naukowcy porównali sposób, w jaki ludzie wchodzą w interakcję z różnymi systemami wyszukiwania w obliczu kilku kontrowersyjnych kwestii. Zbadali respondentów przed użyciem wyszukiwarek (standardowych i opartych na AI) oraz po ich użyciu.

Okazało się, że ponieważ chatboty oferowały węższy zakres informacji niż tradycyjne wyszukiwarki internetowe i dostarczały odpowiedzi odzwierciedlające wcześniejsze postawy uczestników, osoby, które z nich korzystały, jeszcze bardziej umacniały się w swoich poglądach i silniej reagowały na informacje, które te poglądy podważały.

Źródło: https://www.pap.pl/aktualnosci/chatboty-mowia-nam-co-chcemy-uslyszec-0

Dziedziny: Programy i kwalifikacje ogólne, bliżej niezdefiniowane
Poziom umiejętności cyfrowych: Podstawowy
Technologia cyfrowa: sztuczna inteligencja
Typ inicjatywy: Międzynarodowa
Zasięg geograficzny: Non-EU
Głos w dółGłos w górę (Brak głosów)

Możliwość komentowania została wyłączona.