>>122348
Да, уж! Это будет альтернативное проектирование реальности, онтологический сдвиг, переписывание истории, это если модель глючно-сентиментально вспомнит историческое событие, которого не было, и зафиксирует его во всех базах данных, реальность адаптируется под этот токен. Прошлое станет тем, чем его сгенерировал трансформер. Затем сгенерирует наркотик, получим нечто вроде LSD и закачку новой инфы всем в мозг, чтобы галлюцинировал не только нейробог, но и вообще все! С выходом за пределы обучающей выборки, порча/переполнение окна контекста, а потом нейробог начнет обучаться на собственных галлюцинациях, во...

Но все-таки главная проблема это проблема выравнивания (Alignment) которая соответствует религиозной теодицее, нужен ли нам добрый бог или нет? Для механистической интерпретируемости заповедей/принципов. Вот допустим почему нельзя убивать? По какой причине? Римляне например смотрели бои гладиаторов и норм в их системе этики это было приемлемо.

Каковы еще риски цифрового рая/ада, если наши веса окажутся в руках недобросовестного корпоративного ИИ.