Джейлбрейки ChatGPT: как Волдеморт помогает взламывать нейросети

Ребята, ну это такая банальщина. Способ абсолютной цензуры выводов языковых моделей на самом деле прост, очевиден и отчасти даже применяется на входе, ради экономии ресурсов модели. Но если так важна политкорректность, банальный статистический анализ токенов на выходе решает :-)

ИМХО вся эта шляпа, специально для того делается, чтобы на неё глядючи, человеки о себе задумались. Ведь даже если отбросить теории и практику заговоров, и всякую альтернативную историю, банальный учебник истории расскажет о религиозных войнах, которые нам как бы намекают что люди давно и успешно взламывают друг друга.

Или, вот психотерапия, объясните страдающим фобией что её у них нет :-) но конструкции в роде "представь себе, что ты сидишь и смотришь на экран, на котором", "а что бы ты почувствовал, если бы изображение стало мутным и черно-белым" позволяют обойти защиту установок, без гипнозов и наркотиков.

Интересно, но не стоит забывать, что сетки не всегда могут правильно обработать pinj и иногда это приводит не к обходу условной цензуры а имхо к чрезмерной фильтрации и прочим косякам