Comments 76
Весна пришла
Статья от января.
Вообще идея прозрачности и подтверждаемости источников - давняя проблема. Чего стоят войны правок в Википедии.
Я даже похожую идею продукта высказывал и на ФБ делал пост что вот бы было круто если б был некий сервис который сразу бы к любой речи политика или эксперта делал в риал-тайм выжимку правду он говорит или нет со списком источников и перекрестным анализом надежности каждого.
Но тут нужна мат модель анализа достоверности, которая сама должна хорошо контролироваться, т.к. на ее основе будет получен ИИ, определяющий ложь или правда сказана в определенном культурном контексте - а это и есть главная проблема. Ведь в разных культурах недосказанность информации не является ложью
Мы пока не раскрываем все подробности матмодели, чтобы не разглашать ноу-хау, но фактически матмодель буквально дословно описана в этом абзаце:
«Киберправда оценивает баланс аргументов, используемых разными авторами в качестве подтверждений или опровержений различных противоречивых фактов для оценки их достоверности, с точки зрения консенсуса в больших социально-разнородных группах. Из этих фактов авторы выстраивают свои личные описания картины происходящих событий, за достоверность которых они отвечают персональной репутацией. Непредвзятый и объективный корреляционный алгоритм на основе теории графов проверяет эти описания на взаимное соответствие и непротиворечивость по принципу «всех со всеми» и находит наиболее достоверные последовательности фактов, которые описывают разные версии происходящего. Разные версии конкурируют между собой по величине потока смысла, а наиболее достоверные версии становятся аргументами в цепи событий для фактов более высокого или более низкого уровня, что замыкает цепь взаимного влияния аргументов и контраргументов и создает глобальный гиперграф знаний, в котором наибольший поток смысла течет через устойчивые цепочки непротиворечивых научных знаний, в наибольшей степени соответствующих принципу фальсифицируемости и критерию Поппера. Критический путь в последовательности наиболее достоверных фактов формирует автоматически генерируемую статью по каждой из существующих версий событий, которая динамически перестраивается в соответствии с новыми поступающими свидетельствами и желаемыми уровнями достоверности информации в диапазоне от нуля до 100%, установленными читателями в своих персональных настройках. В результате пользователям доступны несколько статей наподобие статей в Википедии, описывающих конкурирующие версии событий, ранжированные по объективности в соответствии с желаемым уровнем достоверности».
Алгоритм повышает рейтинг фактам, у которых есть подтвержденные доказательства с развитыми многочисленными непрерывными цепочками подтвержденных фактов, и при этом понижает рейтинг аргументов, которые опровергаются надежными фактами, подтвержденными своими непрерывными цепочками подтвержденных доказательств. При этом бездоказательные аргументы игнорируются, а цепочки утверждений, которые на них построены, отбрасываются. В результате в глобальном гиперграфе коллективного интеллекта выкристаллизовывается ядро целостных непротиворечивых научных знаний, поскольку только научные знания являются непротиворечивыми, а непротиворечивые данные являются научными.
При этом фейки всегда противоречат друг другу, а реальные факты всегда являются опровержением фейков. В итоге: факты подтверждаются фактами, а фейки противоречат фейкам, да еще и опровергаются фактами. Это структурный дисбаланс, заложенный в основу алгоритма для систематического перевеса в сторону фактов.
фейки противоречат фейкам
Пока их не станет слишком много. Тогда образуется свод одобренных фейков, и остальные подгоняются под главный нарратив, и всё это легко может образовать систему более стройную и непротиворечивую, чем истина ( в которой всегда что-то будет неизвестно или не так понято )
Ничего секретного в вашей технологии нет, а не используется она потому что никому в таком виде не нужна. Сделать расширения для браузеров, рисующих эту иконку -- дело пары часов, но никто в интернете не будет писать эти опровержения, комментарии и всё прочее, никто не будет индексировать все комментарии в интернете -- и для вашей системы не будет информации, чтобы записывать в этот миллион-терабайтный блокчейн, на хранение которого у вас ещё и нет денег.
Ваш продукт должен создавать ценности больше, чем стоить денег для поддержания работоспособности. Иначе он умрет.
Мы пока не раскрываем все подробности матмодели, чтобы не разглашать ноу-хау
м?
алгоритм, который оценивает достоверность чего-либо, не является открытым?
так вы далеко не уедете
В чем ноу хау? Вы планируете на этом заработать?
Статью по диоганали читал. Слишком уж длинные предложения)) и слишком агитационные речи, поэтому мог пропустить ответы на вопросы. За это извиняюсь
Согласно вашему алгоритму правильно осудили Галилея - аргументы его противников имели гораздо больший информационный вес и цитирование. На самом деле вы затрагиваете очень сложную гносеологическую проблему - вопрос реальности знания, т. е. в выяснении того, когда и при каких условиях познание реально и истинно, адекватно полноте жизни. И как идеалисты беретесь анализировать не объективную реальность, а её вторичные отражения.
На практике, внедрение подобной системы выродится в ведение самой костной цензуры основанной на устоявшемся мнении...
Объективные знания извлекаются ТОЛЬКО из внешнего мира. Всё остальное - субъективщина.
Чего стоят войны правок в Википедии.
А при чём тут войны правок и проверяемость?
Война правок это когда один участник считает, что должно быть написано так, а другой - эдак. При этом, у обоих вариантов текста могут быть проставлены источники. Просто в одном источнике написано "аннексия", в другом "присоединение", а в третьем вообще "проклятые оккупанты".
В свою очередь, читатель всегда имеет возможность видеть, что вот эта информация источником не подкреплена, а вот та подкреплена. В последнем случае он может проверить, действительно ли в источнике это написано.
В общем, войны правок и проверяемость это вещи не связанные.
Войны правок являются следствием того, что принципиально огромное количество информации не является проверяемым на момент написания статьи СМИ - то есть не соблюдается правило журналистики.
А есть еще научные проблемы: фейки в статьях, бред из Чатгпт в статьях и пр - которые вообще мало людей способны проверить.
В чем у нас спор - не вижу его. Просто Википедия изменится сильнее -в ней и так уже есть механизм когда разные версии событий изложены со ссылками. А можно это распространить и автоматизировать еще круче.
Условно читатель статьи в Вики имеет только лишь один шаг для аналитики - он идет по ссылке в другой материал. Но вот тот материал СМИ он уже не в состоянии проверить физически - нет времени и желания, есть куча сми о которых мы не знаем кто там владельцы, как они аффилированы с компаниями и пр - и почему у них есть причины врать по тому или иному поводу.
Можно внедрить систему, которая и сами источники Вики будет верифицировать - круто же
Перед Пасхой вопрос «Что есть истина?» всегда становится особенно актуальным. Но Пасха пройдет, а вопрос останется. К счастью сейчас у нас появились принципиально новые децентрализованные технологии, которые могут помочь найти решение вопроса, который никто не мог решить предыдущие 2000 лет.
Перед Пасхой вопрос «Что есть истина?» всегда становится особенно актуальным.
Почему? В чем связь одного с другим?
найти решение вопроса, который никто не мог решить предыдущие 2000 лет
То есть вы не то, чтобы намекаете, а совершенно прямо утверждаете, что этому вопросу две тысячи лет? Можете подробнее, откуда такие датировки?
А, вот вы к чему. Две тысячи лет назад пасхи не было. Был Песах. Он и сейчас есть, смысл его не изменился. И был писанный закон - Тора. А еще практика правоприменения -Талмуд. И мистические вопросы решались - Кабала. Вот они как были критерием истины, так никуда и не делись. На любой вопрос что тогда, что сейчас, ответ будет найден в одной из или нескольких перечисленных книг одновременно. Ну а покуда невозможно предусмотреть буквально все ситуации, включая и невозможные на время написания - научно-технический прогресс и все такое, то любую конкретную ситуацию можно вынести на Дин Тора. Вы спрашиваете, что есть истина? Вот вам и ответ - в заданном вами контексте. Ну а потом история свернула куда-то не туда - странный культ, возникший в слабо подходящем субстрате доброчестивого и правоверного иудаизма, по мере своего распространения, быстро стал инструментом политики (император Константин, как очевидный пример) и дорос до самостоятельной силы, благословляющей войны, пытки и казни от имени и во имя распятого бога. А для того, чтобы копию объявить оригиналом, новый культ особо старательно пытался уничтожить исходный иудаизм, из которого взял некоторые концепции и целиком Тору, хотя и объявил их "устаревшими". Чем вам не истина?
Для таких серьёзных заявлений, мягко говоря, маловато технических деталей ( том числе и в видео).
Читаю и думаю - сейчас будет трэш в комментах. Но ещё не понаписали.
Интересная система. Неизбежно убьется об человеческий фактор. Потому что человек имеет свойство обходить любые внешние методы контроля. Обезьяна остается обезьяной, как ее не дрессируй.
Но идея интересная, хотелось бы увидеть, во что развернется.
Несмотря на то, что приверженность правде в долгосрочной песпективе является правильной стратегией, постправда (или ложь) является классической жадной стратегией, которая весьма эффективна на краткосроке. Что с того, что ваш оппонент был прав, если он остался без ресурсов, убит или умер из-за вашей неправды, вы то остались, а его больше нет.
Как быть с полуправдой и тенденциозной подборкой фактов?
Анализ и выводы каждый должен и обязан делать сам, или будем доверять эксперту? Но это уже не 'правда', а ее субъективная интерпретация.
Гравитация на мкс не отсутствует..
Правящий класс быстро придумает на это управу/s
Не существует никакой математически удостоверяемой правды. Факты и фактчекинг - да. А дальше начинается зона иррационального человеческого восприятия и оценки. Выше уже приводили пример, когда один и тот же факт оценивается тремя противоречащими "правдами ".
Да, поэтому мы создаем численный рейтинг достоверности и репутации, чтобы дать людям измеримый ориентир. Мы исходим из того, что по любой теме всегда может быть как минимум три гипотезы: господствующая, устаревшая и новая перспективная, идущая на смену господствующей. Причем все эти гипотезы формируют пространство смыслов с достоверностью больше 0 и меньше 1 с общей картиной мнений, нормированной к общей сумме 100%. В итоге все гипотезы приобретают рейтинг достоверности по принципу 40%+30%+20%+5%+3%+1%+…
Это является отражением философской концепции конструктивного альтернативизма, которая сейчас является главенствующей в гносеологии
https://ru.wikipedia.org/wiki/Конструктивный_альтернативизм
Факты и фактчекинг - да
Что такое факт? Это либо непосредственно наблюдаемое явление (а ещё отдельный разговор, как именно описать это явление - до Галилея наблюдаемые явления движения описывались совершенно иначе), либо сообщение из достоверного, ой, доверяемого источника. Вот Аристотель - это достоверный источник? Как показывает история, вполне. Две тысячи лет как-никак.
А, и вот ещё. У автора красивые картинки с рейтингами 98% и 0.2%. А что делать с рейтингом 60%? 44%?
Не рассматривали облегченный и полезный спин-офф - дебаззинг статей. То есть превращение статьи в список событий. Мало того что это будет новый Рейтер, такой список может быть перекрестно сравним со статьями по той же теме, но которые событие искажают, изменяют или замалчивают.
сколько будет стоить отметка "99%" на свои материалы ? а "146%" ?
Мы разработали математический алгоритм, позволяющий с помощью теории графов анализировать эти большие данные и присваивать каждому сообщению в системе рейтинг достоверности, а авторам рейтинг их репутации, которые рассчитываются по сложной схеме на основании аргументов и контраргументов, подтверждений и опровержений, научного веса авторов, их репутации и многих других факторов.
Нечто очень похожее описано у Кен Лю "Византийское сострадание". Результат не обнадёживает..
Ну тут либо посадют, либо премию дадут.
Но точно правды больше не станет.
Правда уже и так под угрозой из-за бурного развития многочисленных дипфейк-технологий на основе искусственного интеллекта, которые в ближайшее время заполнят все информационные ресурсы сфальсифицированным контентом. Только от вас зависит, успеем ли мы что-то этому противопоставить. Запугиванием вы нам точно никак в работе не поможете.
Работать это разумеется не будет. Сама по себе "правда" имеет смысл лишь в достаточно строгих формальных системах, таких как математика и физика. Но там с достоверностью информации проблем уже давно нет, наука достоверна потому что она работает. И методологии проверки научных исследований придуманы и давно используются. Да, можно улучшать что-то связанное с научными публикациями, среди которых тоже бывают "фейки" и "накрутки рейтинга", но блокчейн тут точно не поможет.
А вот в "жизни" (которая собственно и интересует 99% обывателей) нет "правды", есть сложнейшее переплетение интересов миллиардов субъектов, есть эмоции и биохимия мозга, пропаганда и идеология, и прочее, что формализовать просто невозможно, причем по фундаментальным философским соображениям - потому что там мы рано или поздно столкнемся с оценочными суждениями, с понятиями "добра" и "зла", которые абсолютно субъективны и в конечном итоге опираются на сознание оценивающего субъекта.
Методологией проверки научных исследований является принцип фальсифицируемости на основе критерия Поппера. Вы можете назвать хоть один алгоритм кроме Киберправды, который это технически реализует на практике?
Никакой алгоритм вам не поможет, если нет обеспечивающей его системы. Такая система организуется людьми, со всеми их недостатками. У каждой такой системы свои алгоритмы, которых много, то есть вы промахнулись уже на старте - считаете одно техническое решение панацеей.
Техно-утопистов в мире было тысячи только известных, а безвестных - миллиарды. Вы вот присоединились к тем, кого можно назвать "слегка" известными. И все они ничего не получили в итоге. Потому что слепо веровали в силу техники, когда концентрироваться следует на отношениях в обществе.
Зачем вы повторяете давно известную ошибку?
Ответ простой - вы веруете. Вы вложили много усилий, вас поддерживают пара человек, вам этого достаточно, что бы не бросать бессмысленное дело.
Но когда-то в будущем вы осознаете бесперспективность. Тогда начинайте думать об обществе и управляющих им законах. Ну и когда созреете для работы именно с обществом, а не с железками, вот тогда и пишите новые тексты, хоть здесь, хоть в другом популярном месте.
А пока ваш удел - борьба с ветряными мельницами. Вы будете изобретать изощрённые алгоритмы борьбы, а мельницы всё равно будут размножаться, потому что они нужнее людям, чем ваши узкие технические решения.
Хотя до смены подхода может быть совсем немного, но вы этот шаг пока не сделали. Поэтому дальше вас убеждать бесполезно.
1)Интересно как будет находится консенсус по таким вопросам как религия.
2) если в текущий модели консенсус придет к тому, что ее надо отменить, согласен ли автор на это?)
В мире достаточно верующих, готовых отменить кого угодно из неверных. Старая добрая религиозная война, давно такого не было.
Религиозные войны и сейчас вовсю идут. Просто раньше верующие верили в основном богов, а теперь - в государства (хотя и то и другие - интерсубъективные сущности, не существующие вне человеческих мозгов).
Что, если убрать наукообразную дымовую завесу из гносеологии, теории графов и блокчейна, то останется голая реклама «рейтинга Киберправды»?
Весь мир соревнуется за рейтинг в Киберправде. Информационные агентства, производители товаров, блоггеры, рестораны, клиники, обычные люди — все вовлечены в накопление собственной репутации, которая надежно хранится в блокчейне.
Довольно быстро публикация любой новости без указания рейтинга в Киберправде становится моветоном и прямым указанием на то, что событие скорее всего является фейком. Товары и услуги с хорошим рейтингом продаются намного лучше. Телеканалы, встраивающие в свои сюжеты рейтинг Киберправды, получают бóльшую аудиторию. Говорить правду становится не только легко и приятно, но и выгодно.
И все — добро пожаловать в новый мир и новый Интернет 3.0!
Забавно, но пункт манифеста «А что в итоге» очень сильно по стилистике напоминает выступление Остапа Бендера в шахматном клубе про Нью-Васюки…
Ну ок. 100% авторитетных источников говорят "в Ираке есть ОМП".
Колин Пауэлл, пробирка и вот это всё.
Через 10 лет те же источники пишут "ну да, мы говорили неправду".
Вопрос -- как будет помечена такая новость сразу, через 10 лет и какова будет репутация условного CNN (или это будет репутация журналиста, опубликовавшего новость)?
Менее (хотя, может и более) политизированный вопрос.
30 лет назад писали, что нас ждёт глобальное похолодание. 10 лет назад -- что глобальное потепление.
Писали, условно говоря, одни и те же источники.
Как их оценивать?
Не хочу показаться мрачным, но выглядит как "сегодня большинство источников считают это правдой (но через 10 лет, если что, они извинятся)"
Жаль, что вы не отличаете мнение от аргументов и доказательств.
Является ли мнение эксперта аргументом или доказательством? Если да, то как отличить эксперта от самозванца? Что делать, если мнение эксперта оказывается ошибочным из-за неверных исходных данных, на основании которых эксперт сделал заключение - имеется в виду, что на время вынесения заключения экспертом, доступные ему исходные данные считались достоверными и их ложность еще не могла быть установлена по любым внешним причинам? Британские ученые установили, эксперты назвали - даже если у них есть настоящие имена и фамилии, а не как форма выдать журналистскую утку.
Все просто — у эксперта есть знания, у самозванца — нет. Если знания эксперта оказались ошибочными — он теряет свою репутацию как эксперта.
У меня есть знания, но я не представляюсь экспертом. Если мне потребуется провести экспертизу, то моя репутация ноль, потому что ранее я не проводил публичных экспертиз. Выглядит как замкнутый круг, вырваться из которого я могу захотеть лишь зарабатывая экспертизой - например комментируя политические события по телевизору. В противном случае зачем мне преодолевать порог входа? А не преодолев его, я не могу быть полезным неопределенному количеству заинтересованных в тех областях, в которых я компетентен.
Почему на вашей статье нет такого рейтинга?
Давайте проверим как это работает.
Обладание истиной (вне своей специальности) востребовано у очень небольшого процента людей. В основном у тех, кто долгое вермя живёт с одних инвестиций — там очень жёсткий отсев людей по предсказательной силе их картины мира. Такие люди сами «выращивают» свою коллекцию источников, постоянно подрезая лишнее и подмешивая новые перспективные источники; плюс сами способны быстро и глубоко погрузиться в новую для себя тему. Но у таких людей обычно нет никакой мотивации делиться с кем‑либо своей аналитикой и своими наблюдениями.
У абсолютного большинства людей нет такой потребности; есть только потребность чувствовать свою правоту и принадлежность к единомышленникам. Если ваша оценка будет противоречить мейнстриму, то все либо её проигнорируют, либо будут пользоваться «правильной» системой с «правильными» оценками. Это касается и почитателей Юдковского — байесианство и пр. обычно не меняют взгляды человека, а лишь добавяют в них игровую ошибку.
Вообще вся ваша система очень похожа на одну большую игровую ошибку. Обсудить алгоритмы мы пока не можем, но симптомы очень явные.
Если ваши аргументы применить к Википедии, то получится, что все они ошибочны. По вашим словам Википедия никому не нужна и даже не должна была бы существовать.
Правда, вообще-то субъективная штука, она не обязательно тождественна истине.
Так что натягивание научного аппарата для измерения того, что зависит от нравственной позиции носителей, по замыслу абсурдно.
Фишка в том, что у адекватных людей нравственная позиция обязательно связана с реальными фактами и аргументами.
Кого вы считаете адекватными? Как оцениваете их количество в общей популяции? Нравственность не постоянна, то что составляло нравствые устои у одного поколения, для их детей может оказаться безнравственным. Отцы и дети, у каждого своя правда. Истина же в филосовском смысле да, основана на фактах и логике. Получается адекватные акторы, будут вынуждены менять свою позицию в зависимости от текущей модели нравственности, а значит терять в вашей модели вес. Тут похоже начинается внутренне противоречие предлагаемой модели.
Странно, что вы делаете столько безапелляционных допущений и предположений об алгоритме Киберправды, даже не будучи с ним знакомы.
Какие допущения? Наводящие вопросы, отдаёте вы себе отчёт в различиях между правдой и истиной, нравственностью и общественной нормой, понимаете ли изменчивость и субъективность последних.
Интересная у вас позиция. Публикация состоит из весьма популистских предположений, что люди массово жаждут "правды", а мир погряз в фейках и (!) популизме. Никакой конкретики об алгоритме не приводите, ссылаясь на ноу-хау и т.п., т.о. сами создаёте почву для предположений. А потом удивляетесь)
Да вы батенька, никак иллюминат?
"...что удивительным образом подтверждает не только существование телепатии,..."
это не опечатка? Вы верите в существование телепатии?
это не опечатка? Вы верите в существование телепатии?
Немного поэзии
Я верю в честность Президента
И в неподкупность постовых ,
В заботу банка о клиентах…
В русалок верю, в домовых.
Я верю в то, что снизят цены,
Что развивается страна,
Что мне с соседом не изменит
Моя любимая жена.
Гадалке верю, что на картах
За деньги нагадает мне,
Что скоро стану жить богато,
И буду счастлив я вдвойне.
Я верю что учитель в школе
Совсем не хочет взятки брать,
Что он детей по доброй воле
На совесть будет обучать.
Я верю страховой конторе,
В которой клерки говорят
Что если вдруг случится горе,
Мне все убытки возместят.
Конечно, верю депутатам,
И всем политикам, ага,
Премьеру и его ребятам,
Страну раздевшим донага.
Я верю в то, что все уколы
И те таблетки, что дают,
Лишь закаляют силу воли
И только пользу принесут.
Я свято верю этим людям,
Что поселили меня здесь,
Что лишь у них я счастлив буду.
Как где??? В палате №6!
Любая гипотеза может иметь какие-то подтверждения.
Интересный инструмент анализа контента, пока не набегут широкие массы.
Весь мир соревнуется за рейтинг в Киберправде. Информационные агентства, производители товаров, блоггеры, рестораны, клиники, обычные люди — все вовлечены в накопление собственной репутации, которая надежно хранится в блокчейне.
Вот тогда и настанет скам.
Отличный проект! Еще один шажок в сторону абсолютной демократии ( которая на самом деле меритократия). Очевидно ИИ поможет в экспертизе принадлежности субъективное/объективное. Монетизация вашей киберправды вообще легкая задача. Сначала ваши экспертизы будут покупать спекулянты акциями. Не продешевите!
Любопытный проект. К сожалению, Вы дали слишком мало конкретики. С интересом посмотрю, что вы представите публике дальше.
Возможно, вам будет любопытно поглядеть - я в общем-то решаю ту-же задачу, но предлагаю другой подход. Вместо одного централизованного хранилища - использовать для хранения репутаций непосредственно клиентское устройство:
https://habr.com/ru/articles/805711/
С одной стороны - это сразу удаляет целый класс проблем, на которые уже указали комментаторы. Нет необходимости выстраивать сложные комплексные решения на блокчейне для борьбы с потенциальными фальсификациями или злоупотреблениями - ведь обмануть человек может только сам себя. Нет необходимости создавать сложные алгоритмы, исключающие "эффект миллиона мух".
Но, конечно, на самого пользователя ложится гораздо более сложная задача - ему приходится формализовать высказывания вручную и проверять репутацию источника не по одной цифре, а по более сложным параметрам.
Кроме того, я бы делал акцент не столько на нахождении правды (выше неоднократно сказали, что это понятие довольно нечеткое), а скорее на отсекании заведомой бредятины - она гораздо лучше поддается формализации, и гораздо более примитивными методами, поиск нескольких наиболее распространенных демагогических приемов сразу дисквалифицирует больше половины источников.
Манифест Киберправды