AIdeas
- Данъкът за съгласуване Прави ли безопасността ИИ по-бавен или по-слаб? Допълнителната цена в пари, време или производителност, за да бъде една система с ИИ безопасна, а не само способна.
- Коварният обрат Може ли ИИ да се държи мило, докато стане достатъчно силен, за да не му се налага? Сценарият, в който ИИ се държи добре, докато е слаб и наблюдаван, и сменя курса, щом вече не може да бъде спрян.
- Максимизаторът на кламери Защо една безобидна цел може да бъде опасна за мощен ИИ? Мисловен експеримент за ИИ, който преследва безобидно звучаща цел до катастрофални крайности.
- Просто го изключи от контакта Защо не можем просто да изключим един опасен ИИ? Обичайният отговор, че опасен ИИ винаги може да бъде изключен, и защо изследователите не смятат, че е толкова просто.
- Стохастичен папагал Разбира ли ИИ нещо, или само повтаря прочетеното? Твърдението, че езиковите модели нанизват думи според вероятността, без никакво разбиране на значението.
- Това е просто автодовършване Само следващата дума ли предсказва ИИ? Идеята, че чатботовете са просто по-голяма версия на предложенията за думи в телефона ти, така че няма за какво да се тревожим.
- Шогот Само маска ли е дружелюбният чатбот? Мем, който представя ИИ като чудовище с пипала, носещо малка маска с усмихната физиономия: дружелюбния асистент, когото виждаме.
- AI 2027 Може ли свръхчовешки ИИ да се появи до няколко години? Подробен сценарий от 2025 г. за това как ИИ може да стигне от днешните чатботове до свръхинтелект до края на 2027 г. и какво може да се обърка.
- Foom Може ли ИИ да се подобрява толкова бързо, че да не можем да следваме темпото? Идеята, че щом ИИ може сам да се подобрява, той може много бързо да стигне от човешко ниво до далеч отвъд нас.
- p(doom) Колко вероятно е ИИ да завърши зле? Съкращение за личната оценка на някого за шанса ИИ да доведе до катастрофа, например изчезването на човечеството.
