Организации
Групи, които работят по идеите в тази база знания.
- Европейска служба по изкуствен интелект Центърът на Европейската комисия за ИИ. Прилага правилата на Законодателния акт за ИИ за най-мощните модели на ИИ с общо предназначение, включително като ги тества за рискове като загуба на контрол.
- Apollo Research Тества водещи модели на ИИ преди пускането им за scheming (ИИ, който тайно преследва собствени цели) и работи с правителства, включително Европейската служба по ИИ, по въпроса за загубата на контрол.
- Center for AI Safety Организация с нестопанска цел от Сан Франциско за изследвания и изграждане на областта, която работи за намаляване на рисковете от ИИ в обществен мащаб. През 2023 г. организира Statement on AI Risk.
- CeSIA (Френски център за безопасност на ИИ) Парижки мозъчен тръст, който работи за предотвратяване на сериозните рискове от ИИ чрез изследвания, съвети по политики и образование. Създава AI Safety Atlas и стартира Global Call for AI Red Lines.
- Future of Life Institute Организация с нестопанска цел, която работи за отклоняване на мощните технологии от крайни, мащабни рискове. По отношение на ИИ работи по политики в ЕС и САЩ и през 2023 г. публикува отвореното писмо с призив за пауза.
- Machine Intelligence Research Institute (MIRI) Изследователска организация с нестопанска цел от Бъркли, чиято работа помогна за създаването на областта на съгласуването на ИИ и която сега призовава за глобално, принудително спиране на създаването на свръхинтелект.
- ML4Good Безплатни интензивни присъствени обучителни лагери по безопасност на ИИ, започнали във Франция и провеждани днес в цяла Европа и извън нея, с направления за технически кариери и кариери в политиките.
- PauseAI Гражданско движение, основано в Нидерландия през 2023 г., което настоява за международна пауза при най-мощния ИИ, докато не разберем как да го направим безопасен.
