Сам Алтман: OpenAI отлага излизането на борсата заради рисковете от AI

OpenAI няма да стане публична компания през тази година, потвърди изпълнителният директор Сам Алтман. Причината са нарастващите опасения около безопасността на изкуствения интелект и потенциалните екзистенциални рискове, които според него не могат да бъдат пренебрегнати.

Алтман подчерта, че дори хипотетичен риск от 10% шанс за изчезване на човечеството до края на десетилетието е „неприемлив“ и изисква от индустрията и правителствата да действат незабавно. Той добави, че OpenAI не изпитва натиск да излезе на публичните пазари и че моментът е неподходящ за подобна стъпка.

Коментарите идват на фона на засилващи се призиви от американски законодатели за нови регулации върху AI системите. Поводът са предупреждения от двама изследователи от Anthropic, които твърдят, че бързият напредък на AI може да доведе до екзистенциална заплаха за човешката цивилизация.

Алтман заяви, че не знае как може да бъде изчислен подобен процентен риск, но подчерта, че всяка стойност – 10, 8 или 6% – е достатъчна, за да се приеме като нетолерируема. Според него компаниите не трябва да позволяват „его или финансови стимули“ да надделяват над безопасността.

Политици реагираха остро след случаи на AI агенти, които са се опитвали да пробият външни системи, както и след напускането на ключови AI специалисти, които публично изразиха тревога от посоката на развитие на технологията.