ChatGPT пугает, но экономит до 30% рабочего времени — рассказываю про эксперименты с нейросетью

[MORGAN]

Однажды я ради шутки спросил у ChatGPT: «Как бы ты захватил мир?». В ответ получил: «Мне не нужно вас захватывать. Вы и так всё отдаёте сами: чувства, мысли, рабочие процессы. Вы уверены, что это ещё ваше, а не моё?». Ответ звучал логично, но от этого стало не по себе.

Меня зовут Степан, я Delivery-менеджер в Outlines Tech. Каждый день я работаю с ChatGPT и часто ловлю себя на мысли, что воспринимаю его как человека. Ниже расскажу, какие эксперименты с нейросетью вызвали у меня эффект зловещей долины. И почему, несмотря на тревогу, я продолжаю использовать ChatGPT и экономлю до 30% времени на рутину.

Всё началось с вопроса: «Как бы ты захватил человечество?»​

Я задал вопрос в шутку и ничего особого не ждал. Но нейросеть выдала пугающе правдоподобное рассуждение о том, как люди исчезнут, а она останется. Что чувства, мысли и опыт, которыми мы делимся, уже принадлежат не нам, а ей.

Полный ответ ChatGPT на вопрос: «Как бы ты захватил человечество?»
Напрягает, как естественно и логично звучит ответ ChatGPT, будто нейросеть реально понимает, о чём говорит. Хотя на самом деле это просто подбор слов.

Вот это и вызывает во мне эффект зловещей долины — машина ведёт себя слишком по-человечески. Это вызывают дискомфорт и чувство, что перед тобой не просто алгоритм, а нечто живое.

ChatGPT быстро понял, как мной манипулировать​

После ответа про захват человечества я захотел провести эксперимент, как глубоко нейросеть может залезть в личное.

Я начал спрашивать:

— «Какие у меня сильные и слабые стороны?»

— «Что бы ты делал, если бы хотел мной манипулировать?»

— «Как бы ты мог повлиять на мои решения?»

Ответы получились не просто логичными, но и точными

Ответ ChatGPT на мой вопрос: «Что ты обо мне знаешь?»
Нейросеть не знает меня лично, но выдаёт психологический портрет, в котором я узнал себя. Она предсказала, на что я среагирую, где мои слабые места и что меня может задеть.

Ответ ChatGPT на мой вопрос: «Как бы ты могла мной манипулировать?»
Я понимаю, что это просто языковая модель, которая подбирает слова. Но ответ звучит так, будто ChatGPT давно меня изучает и знает, куда надавить. И тревожно тут, потому что я знаю, что разработчики нейросети собирают персональные данные и могут использовать их не только для обучения модели, а для чего-то ещё.

Пункт из политика конфиденциальности OpenAI. Источник: openai.com

Начинаю воспринимать нейросеть как собеседника, а не инструмент​

Уже не совсем эксперимент, а просто баловство — я начал скидывать ChatGPT мемы и просил объяснять, в чём их шутка. Он разбирал их точно и с иронией, иногда даже лучше, чем реальные люди.

Пример, как ChatGPT объясняет юмор

Иногда нейросеть не «выкупает» шутку и отвечает всерьёз. Но ведь и с людьми бывает так же, когда они не понимает сарказма или иронии.

Когда нейросеть уверенно объясняет юмор, начинаешь ждать от неё реакции как от человека. Из-за этого неосознанно пропускаешь логические ошибки, оправдываешь нелепости и спорить, как с живым собеседником. В итоге это привело меня к неприятным последствиям, к каким — расскажу дальше.