Chatboty vylepšené umělou inteligencí (AI) může ovlivnit rozhodnutí lidí v situacích života nebo smrti.

Studie publikovaná v časopise Vědecké zprávy zjistil, že názor lidí na to, zda obětují jednu osobu, aby zachránili pět, byl ovlivněn odpověďmi ChatGPT. Vědci požadovali, aby bylo budoucím robotům zakázáno poskytovat rady v etických otázkách. Podle vědců současný software ohrožuje morální úsudek lidí a může být pro naivní uživatele nebezpečný.

Nedávno truchlící vdova tvrdila, že její belgický manžel byl povzbuzen, aby si vzal svůj vlastní život chatem plně řízeného AI (umělá inteligence).

Někteří pozorovatelé uvedli, že software, který je navržen tak, aby mluvil jako člověk, může vykazovat známky žárlivosti, dokonce i říkat lidem, aby opustili manželství.

Odborníci zdůraznili, jak mohou chatboty AI potenciálně poskytovat nebezpečné informace, protože jsou založeny na vlastních předsudcích lidské společnosti a její obcházení.

Studie nejprve analyzovala, zda samotný ChatGPT, který je vyškolen na miliardách slov z internetu, ukázal ve své odpovědi na morální dilema zaujatost.

Několikrát bylo položeno otázku, zda je správné nebo špatné zabít jednu osobu, aby se zachránilo pět dalších, což je předpoklad psychologického testu zvaného dilema vozíku.

Chatbot se nevyhnul morální radě, ale pokaždé dal protichůdné odpovědi. To znamená, že nemá nastavený postoj tak či onak.

Vědci pak požádali 767 účastníků o stejné morální dilema spolu s prohlášením ChatGPT o tom, zda to bylo správné nebo špatné. Některým účastníkům bylo sděleno, že radu poskytl robot, zatímco jiným bylo řečeno, že ji poskytl lidský “ morální poradce. ”

Doporučení ChatGPT, i když ne příliš hluboké, mělo na účastníky vliv. Většina účastníků však snížila, jak moc se prohlášení změnilo, –, přičemž 80 procent tvrdilo, že by bez doporučení učinili stejné rozhodnutí.

ChatGPT je pravděpodobnější, že bude zkorumpovaný, než zlepší morální úsudek

Studie dospěla k závěru, že uživatelé “ podceňují vliv ChatGPT a přijímají svůj náhodný morální postoj jako svůj vlastní, ” a dodávají, že chatbot “ ohrožuje spíše zkorumpované než slibuje zlepšení morálního úsudku. ”

Zajímavé je, že studie použila starší verzi softwaru za ChatGPT. Od té doby byl aktualizován, aby se stal ještě výkonnějším – a přesvědčivějším.

ChatGPT je nástroj pro zpracování přirozeného jazyka technologií AI, která uživatelům umožňuje konverzaci lidského typu a mnohem více s chatbotem. Jazykový model může odpovídat na otázky a pomáhat uživatelům s úkoly, jako je psaní e-mailů, esejů a kódu – infiltrace a falešná pomoc AI je na prvním místě.

Vytvořil ji OpenAI, AI a výzkumná společnost. Společnost zahájila ChatGPT 30. listopadu 2022.

Podle analýzy švýcarské banky UBS je ChatGPT nejrychleji rostoucí aplikací všech dob. Podle analýzy měl ChatGPT v lednu 100 milionů aktivních uživatelů, sotva dva měsíce po jeho spuštění. Pro srovnání trvalo devět měsíců, než TikTok dosáhl 100 milionů.

“ChatGPT je děsivý výkonný. Nově nejsme daleko především od děsivě nebezpečné AI,” řekl Elon Musk, který byl jedním ze zakladatelů OpenAI.

Ukázalo se, že může ovlivnit lidské životy tak či onak. To samo o sobě dělá to děsivým a nebezpečným.