Карандаш и ручка

За два года у нейросети, которая живёт у меня дома, появилось почти всё: файлы, телеграм, задачи, платежи. Знакомые, когда это узнают, спрашивают одно и то же: как ты ей всё это доверяешь, она же ошибается.

Ошибается, конечно. Регулярно. Я долго не мог объяснить, почему меня это не пугает, а потом понял: слово «доверять» тут просто не подходит. Доверие обычно понимают как выключатель, либо да, либо нет. У меня оно устроено по-другому, то есть это не выключатель, а граница. И проходит она в неожиданном месте.

Не по важности задачи. Граница проходит по признаку «можно ли отменить».

Проще всего объяснить так: всё, что пишется карандашом, я ей отдал. Черновики, расчёты, разборы, поиск, сравнение вариантов. Ошиблась, стёрли, переделали. А всё, что ручкой, оставил себе: отправить деньги, опубликовать, удалить, пообещать. Такое не стирается.

Поэтому прод я ей не даю. И на ночь работать не оставляю: пока я сплю, некому заметить ошибку, а ошибка, которую полночи никто не замечал, успевает стать фундаментом для следующих. Утром это уже не помарка в черновике, это исписанная без меня стена.

За два года она мне и файлы теряла, и однажды уверенно отчиталась о работе, которую не делала. Каждый раз неприятно. Но каждый раз это было карандашом: заметил, стёр, переделали. А истории, которую нельзя было бы отменить, не случилось ни одной. Хотя нет, так звучит, будто она такая аккуратная. Дело не в аккуратности, просто ручка всегда лежала у меня.

Так что вопрос «доверять ли нейросети» я бы переформулировал. Посмотрите на свою работу и найдите в ней всё, что можно стереть и переделать. Это можно отдавать хоть завтра, даже инструменту, который ошибается. А то немногое, что не стирается, подержите пока у себя. Туда ей рано.