Мастер Гамбс предупреждает

[xaxam]

Ахтунг: Гроша — бедуин

Ирландия. Возле одного из пабов идет драка. К дерущимся подходит человек и спрашивает: - Простите, это частная драка, или могут участвовать все?

Экспериментальным путём я обнаружил (а потом в интеллектуальной беседе с Грошей подтвердил) довольно опасную фичу (именно фичу, а не баг).

Все чаты с Грошей изначально сугубо приватны, и доступа к ним не имеет никто. Я одно время кобенился и ломался, мол, я тебе сообщаю информацию, которую ты нигде больше не найдёшь, но сможешь, если захочешь, сам её перепроверить по доступным тебе открытым источникам. Если сочтёшь правдой, — запиши на свои скрижали и сделай её доступной другим твоим клиентам. Гроша упёрся со словами, — пополнение моей "базы данных" находится под строгим контролем, исключающим разглашение личной информации (боже мой, где там была моя личность в отношении информации, которую я ему сообщал).

Но с некоторых пор Гроша стал дозволять генерирование открытых ссылок на отдельные чаты, позволяющие всем, получившим такую ссылку, принять участие в сраче, дописывая своии промпты (вопросы, замечания, ...). Почему-то у меня было впечатление, что любой желающий с такой ссылкой, решив поучаствовать в сраче, копирует всю предысторию в свою приватную директорию и там может сраться с Грошей сколько хочет, выступая на ринге в трусах цветов своего имени. Добавочные раунды остаются приватными до тех пор, пока новый участник (или участники, если таковых окажется несколько) не решат в свою очередь показать urbi et orbi, как они ловко справились с Грошей. В результате должно было бы образоваться целое дерево диалогов, отдельные сучья которых держатся в тайне до тех пор, пока хозяева сучьев не решат поделиться ими с широкой общественностью. Не захотят - не поделятся, никто ничего не узнает.

Авотхуй. Как выяснилось, опубликовав "открытую" ссылку на начало диалога, я предоставляю всем получившим такую ссылку возможность влезть в развязанный мной срач. Гроша никак не регистрирует тех, кто пришёл "помахаться" со стороны. В сраче по-прежнему фигурируют только два участника: я (инициатор срача) и Гроша, который отбивается от моих наездов. Всё, что напишут обладатели опубликованной ссылки, будет выглядеть, как мои промпты.

Ситуация напоминает порядки среди наших бедуинских сограждан. Многожёнство в Израиле формально запрещено, поэтому брак регистрируется только с первой женой. Но есть ещё и вторая, и третья... (Пророк разрешил иметь до четырёх, если муж может прокормить). Прокормить-то с нашими пособиями на детей — плёвое дело, но их же надо записать на первую единственную жену. Вот так же и Гроша записывает на первую жену меня все последующие разговоры в чате, который я открыл для публики.

Мне, если честно, насрать, кто что обо мне подумает, если на меня как на первую жену (с ответственным вистом) запишут какого-нибудь чужого ребёнка, даже если он вырастет угонщиком или бандитом. Но в принципе если кто-то собирается практиковать (как я) публикацию диалогов с Грошей, я бы рекомендовал в момент формирования общедоступной ссылки писать "последнюю волю": "Этим креслом промптом мастер Гамбс заканчивает дозволенные речи, за которые несёт личную ответственность. На все последующие стулья садитесь на собственный страх и риск".

Comments

[itsi]

А как же "мы в ответе за тех, кого приручили пригласили"? ;)

[xaxam]

Ну, примерно так же, как председатель секции на конференции произносит вводное слово при открытии и приглашает по очереди докладчиков, но при этом не несёт ответственности за содержимое их докладов, если они кто-то из них спятит.

Но на конференции все видят, кто на кафедре стоит, председатель или текущий докладчик. А в стенограммах разговоров с Грошей Гроша по одну сторону, а все остальные выступают в форме, не позволяющей их отличить от председателя.

Я поэтому и предложил стандартную формулировку последнего промпта закоперщика, - докладчик такой-то доклад закончил. А последующие желающие вступить в общественный срач могут как-то помечать свои ходы. Ну например как myron_opanasovych  сделал.

[itsi]

Поскольку именно щас участвую в организации профильной конференции, то имею сказать, что таки во многом несет, поскольку, вероятно, отвечает за организацию и подбор докладчиков.

По существу же таки да, надо именовать членораздельно.

[xaxam]

Пример с конференцией не совсем точный, поскольку докладчиков на неё кто-то (оргкомитет) отбирает и тем самым несёт ответственность, что совсем уж фриков там не будет. А выкладывая ссылку на "ХВ", где могут резвиться любые онанимы, я никакого контроля за тем, кто пойдёт по ссылке и устроит там пьяный дебош, не имею. Остаётся только о личном алиби позаботиться, чтоб не мне счёт за разбитую посуду оплачивать, есливдругчо.

[itsi]

Выкладывание в подзамочном посте несколько приблизило бы к конференционному случаю.

[vlad_m]

Угу. Все, что вы послали в ии будет там храниться и пользоваться по их разумению. И рано или поздно обязательно утечет.

А генерал от инфантерии Хегсет давеча заявил, что они подключат все компы в Пентагоне к ИИ. Вне зависимости от степени секретности.

[sobriquet9]

Нонче у LLM-ов стадия обучения отделена от генерации ответов (inference). После того, как обучение завершено, на матрицу весов ставят клеймо вроде "версия 1.23" и после этого веса не меняются. Дополнительную информацию можно передавать только через окно контекста, которое у каждого пользователя своё. Потому что оно маленькое и потому что в общем случае нельзя верить пользователям, ибо они в большинстве своём несут всякую дичь.

Разумеется, все разговоры записываются и теоретически их можно использовать при обучении следующей версии. Но это будет потом может быть, если выяснится, что овчинка стоит выделки. Подозреваю, что не стоит, очень уж низкое соотношение сигнал/шум.

Записываются все разговоры для товарища майора и чтоб рекламу продавать. Поэтому для всего сколько-нибудь противоречивого я пользуюсь локальной моделью, благо сейчас их можно гонять на своём компьютере с помощью LMStudio или ollama, не надевая предварительно свитер с оленями. Чтоб потом при попытке найти работу меня не отфутболили из-за продемонстрированного год назад в разговоре с гроком позорного незнания синтаксиса языка C++20.

[myron_opanasovych]

целое дерево диалогов

Если вы хотите именно дерева диалогов, то в ChatGPT есть функція приватных group chat:

• общий доступный всем участникам системный промпт, который задается создателем чата (єто кстати полезно, чтобы не было "раздвоений личности", как мы могли недавно наблюдать при обсуждении ООН-говорильни, когда ваш видимо дефолтный промпт отвечал на ваши реплики, а мой промпт-задрот отвечал на мои — я совсем забыл что он там был сконфигурирован);

• для добавления участников вы как создатель чата можете:

  • в явном виде добавить участников по их никам;
  • сгенерировать и опубликовать/переслать приватно ссылку для присоединения к чату (ссылку можно отозвать или перегенерировать);

• вы как создатель чата можете удалять участников;

• ники участников видны всем (в принципе возможна деанонимизация).

Для обсуждения с друзьями/знакомыми такой функционал работает неплохо. А вот как оно в удобстве обсуждения вопросов с незнакомой публикой, мы пока не тестировали. Возможно, в качестве получения новых знаний в процессе конструктивного диалога от лично незнакомых пользователей, у которых вы предполагаете наличие экспертизы в обсуждаемом вопросе, оно может быть полезным.