Папа Лъв XIV: Опасенията, че AI може да излезе извън контрол, не са „фалшиви новини“

Папа Лъв XIV предупреди, че опасенията, свързани с потенциалната загуба на контрол над изкуствения интелект, не бива да бъдат пренебрегвани като „фалшиви новини“. Той направи изказването си по време на разговор с журналисти на борда на самолета при завръщането си от Франция.

Коментарът идва на фона на нарастващите дебати около безопасността на AI и само дни след като американският президент Доналд Тръмп отново постави акцент върху необходимостта САЩ да запазят лидерската си позиция в технологичната надпревара с Китай.

Лъв XIV беше попитан какво трябва да направят именно Вашингтон и Пекин, за да ограничат риска изкуственият интелект да доведе до катастрофални последици за човечеството. В отговора си той подчерта, че темата не може да бъде игнорирана.

„Това е проблем, за който според мен трябва да седнем и да поговорим. Не можем просто да стоим със скръстени ръце и да се преструваме, че нищо няма да се случи“, заяви папата.

Позицията му не е изненадваща. Още в първата си енциклика като глава на Римокатолическата църква Лъв XIV постави силен акцент върху влиянието на изкуствения интелект върху обществото и необходимостта технологичният напредък да бъде съпътстван от ясни механизми за защита на човешкото достойнство и права.

Изказването му контрастира с вижданията на Доналд Тръмп, който многократно е определял опасенията за неконтролируем AI като политически мотивирани и е предупреждавал, че прекомерните регулации могат да отслабят конкурентоспособността на САЩ спрямо Китай.

Междувременно част от лидерите в технологичната индустрия също алармират за потенциалните рискове от бързото развитие на технологията. Няколко големи компании в сектора вече настояха за по-предпазлив подход и за въвеждане на механизми за сигурност, които да наваксат с темповете на развитие на генеративните AI системи.

Сред тях е и изпълнителният директор на Anthropic Дарио Амодей, който наскоро предупреди, че в рамките на следващите месеци усъвършенствани AI модели могат да придобият способност да управляват цели мрежи от автономни агенти, действащи в интернет.

Въпреки тревожните прогнози обаче папа Лъв XIV подчерта, че не споделя апокалиптичните сценарии.

„Ако някой ме попита дали съм изпаднал в паника, отговорът е „не“. Спя спокойно нощем. Смятам обаче, че опасенията, изразени от много експерти и специалисти по ИИ, трябва да се приемат сериозно“, каза той.

Изявлението му добавя още един влиятелен глас към глобалния спор за бъдещето на изкуствения интелект, който все по-често се води не само от политици и технологични компании, но и от религиозни лидери, етици и учени. Докато САЩ и Китай се съревновават за лидерство в ключовата технология на XXI век, въпросът как да бъде гарантирана нейната безопасност остава без ясен международен отговор.