Когда взлёт умеренный

[vorona_n]

В продолжение http://vorona-n.livejournal.com/171217.html.

«Умеренный взлёт» по Бострому, в том варианте, когда проект не один-единственный, но их мало, так что можно пересчитать по пальцам, и даёт ситуацию, описанную мной ранее в посте о «затыке малочисленности». А вопросы возникнуть ведь могут. Какие черты зародышей ИСИ являются «врождёнными», а какие зависят от обращения? И как с ними обращаться правильно? Какие из «врождённых» черт будут общими для проектов данного класса, а какие «индивидуальными»? И от чего зависят в первую очередь последние? И т.д. UPD: Любопытно, конечно, было бы вкурить эти темы уже не в контексте НФ.

Ну и ещё из того же отрывка из Бострома:

«Предположим, ИИ нужен год, чтобы поднять свои возможности с человеческого уровня до сверхразумного, причем второй проект вошёл в стадию взлёта спустя шесть месяцев после первого. Может показаться, что ни один из них не имеет решающего конкурентного преимущества. Но это не обязательно так. Допустим, потребуется девять месяцев, чтобы пройти путь от уровня человека до точки перехода [когда проект сможет совершенствовать себя сам — V.], и ещё три месяца — чтобы достигнуть уровня сверхразума. Тогда система-лидер превратится в сверхразум за три месяца до того, как её соперник достигнет хотя бы точки перехода. Это обеспечит идущему впереди решающее конкурентное преимущество и даст возможность, умело использовав своё лидерство, установить неусыпный и повсеместный контроль. В итоге проекты-конкуренты погублены и установлен режим проекта-одиночки, или синглтона. (Заметим, что синглтон является чистой абстракцией. Режим при нём может быть самым разным: демократия; тирания; единодержавие, то есть абсолютизм ИИ; набор жёстких общемировых законов, подлежащих безотказному исполнению. Иначе говоря, синглтон — это некий орган, способный в одиночку решать все крупные проблемы общемирового масштаба. Он может нести в себе — но совсем не обязательно — характеристики знакомых нам форм человеческого управления.)»