Психолог отвечает на вопросы на Кью с помощью искусственного интеллекта chatGPT и подобных сервисов. Это этично?
ИИ chatGPT - это текстовый чат-бот. Кидаешь ему любой вопрос или проблему, и он генерирует ответ за секунды. Так можно очень быстро, не включая голову, отвечать на все вопросы в Кью. Я долго игралась с chatGPT, и поняла, что он генерирует ответы примерно в одном стиле. Этот стиль я заметила у некоторых психологов на Кью: ответ от ИИ и рекламная ссылка на себя.
Проблема в том, что ИИ может ошибаться, отвечать как попало. И мне кажется, что психолог поступает не этично, дискредитируя профессию.
ПсихологияПсихолог+2
Этот вопрос из области непроверенных гипотез. Если у вас есть факты, назовите Фамилию психолога, призовите его к ответу, и он вам ответит: было такое или нет. А мы поможем вам определить, врёт он или говорит правду. Так что вопрос сам по себе неэтичен.
Вот вы долго игрались с этой чатгопотой, а потом взяли и спроецировали свои игры на кого-то из психологов. Вам стало казаться…
Человек рассматривая узоры на ковре, или игру света и тени на стенке, или изменяющиеся формы плывущих облаков на небе, способен увидеть в них разнообразные образы, лица, морды, фигуры, и т.п. Называется этот феномен - парейдолия. Погуглите, узнаете определение.
То же самое может случиться с текстами. Но случается и обратное: когда читаешь книгу, и видишь фигу.
Вы ещё скажите, что и я скопипастил этот ответ из текста, сгенерированного чатгопотой.
Было бы этично с вашей стороны привести некоторое количество сравнений экспертных текстов и текстов от вашей любимой программы. Но, я так понимаю, для вас это будет затруднительно. Легче обвинить психологов на основании одних только подозрений.
2 эксперта согласны
Юрий Решетников
11 мар 2023подтверждает
ФИО в студию!
@Юрий Решетников, Не, ФИО не будет, это действительно неэтично. А то, что ИИ используется для разных целей, в том числе таких, это описанный факт.
Владимир, спасибо за ответ. Думаю, вы правы насчет того, чтобы сверить ответы от специалиста и ИИ. Хотя невооруженным взглядом видно, что текст - это плохой перевод с английского в стиле chatGPT. Местами словесная окрошка.
Интересная задачка, попробую потом описать результаты, не раскрывая информации о специалисте.
Вообще тема использования ИИ новая и вызывает множество эмоций и дискуссий. Пока не знаю, как относиться к этому инструменту в контексте Кью и подобных сервисов.
Хотя есть же очень хорошие ИИ-психологи, могут поддержать человека, поговорить с ним. Я слышала хорошие отзывы от пользователей. Правда пользователь знает, что он говорит с ИИ, а не с психологом Васей.
Пока для себя сделала вывод, что использовать ИИ, как инструмент, не возбраняется, но нужно уведомлять, что текст сгенерирован машиной.
Вопрос свой считаю этичным, поскольку не называла имён, а спрашивала мнение о самом явлении. Явление имеет место быть. Использование ИИ в разных сферах, например, написание курсовиков, дипломов, тестовых заданий при приеме на работу, программного кода, хорошо описано. Ничто не мешает генерировать ответы с помощью ИИ.
Вы же, Владимир, не совсем тактично перешли на мою личность. Ну что ж, и такое бывает :)
В любом случае благодарю за ответ.
@Елена Кружилина, скажите, а эта программа, когда генерирует тексты в духе психологической консультации, она задаёт уточняющие вопросы? Размышляет? Рассматривает разные варианты? Пытается разобраться в том, что происходило и происходит с человеком, задавшим вопрос, касаемый его психологических проблем? Даёт какие-то рекомендации?
То, что я читал у наших психологов-экспертов, это размышления на ходу при попытке анализа ситуации вопрошателей и синтеза каких-то соответствующих их ситуации выводов. Ни у одного не заметил "машинного стиля". Наверное, надо бы мне тоже поиграться с чатгопотой, чтобы судить точнее о её возможностях.
Возможно, я не был тактичен с вами, указав на неэтичность вопроса. Отзеркалил. На вашу личность я не "переходил", насколько мне так кажется. Поскольку я вас никак не обзывал, не ругал, не унижал и не оскорблял. И высокоэтичная личность иногда может задавать неэтичные вопросы. Часть (вопрос) не есть целое (личность).
Я провела эксперимент, и гипотеза подтвердилась. ИИ дал ответ почти один в один с ответом эксперта. Использовала оригинальный ИИ по ссылке https://chat.openai.com/
Различия в тексте были, и они ожидаемы, так как это перевод с английского, некоторые слова имеют синонимы. А по смыслу то же самое и в том же порядке. Эксперт внес свои правки, убрав одну рекомендацию и добавив ссылки на свои ресурсы.
Понятия не имею, как это продемонстрировать без нарушения приватности эксперта. Если очень интересно, могу в личку.
А по смыслу то же самое и в том же порядке.
Это не является признаком того что ответ был дан от ЧатГПТ. Только пословная схожесть - то есть слова стоят в том порядке в котором были.
А так да, это скоро станет массовым - а ЧатГПТ дообучат для консультиирования людей, особенно по скриптовым методикам типа КПТ, Нардоне и т.п. - где участие человека не особо нужно)
Здравствуйте.
Коль скоро Ваш вопрос о этичности использования ИИ для генерирования ответов на Кью, я и задал его боту GPT в телеграм.
Вот ответ на Ваш вопрос от бота:
Как ИИ-ассистент, я не могу давать мнения, но как Психологиче... Читать далее
12 экспертов согласны
Юлия Морозова
18 мар 2023подтверждает
Отлично! Спасибо за информацию.
Открыла недавно для себя этого бота, ошибки есть, есть некоторая «детскость» в... Читать дальше
Это - очень свежая проблема для всех областей консультирования. И юридически еще не оформленная в достаточной мере, как оформлены этические нормы в родственных - медицине и педагогике.
И здесь есть две большие разницы: )
Есть... Читать далее
Хитрый какой :) Улыбнуло. А откуда Вы узнали об этом? Психолог сам признался?
Получается, он в ответах цитирует по сути Википедию и иные интернет-ресурсы, собранные нейросетью, но не отвечает сам!
Это не то чтобы не этично... Читать далее
Моя точная копия с искусственным интеллектом💥 Попробуйте задать вопрос ⬇️
Перейти на c.ai/c/HLg5KJFhaTsKpoGgMA3TXzcTQ8rAsG4RH4TrTOgCZ5s
Отвечать в одном стиле неэтично, даже когда вопросы требуют ответа в одном стиле?
Я вот преподаю шахматы, и в один прекрасный момент понял, что "давайте разберём мою партию" - совершенно бессмысленный запрос. И теперь я говорю:... Читать далее
Моя группа в ВК, в закрепе статья с ответами на самые популярные вопросы
Перейти на vk.com/intelligenceschool
Различие между текстами ИИ и человека состоит в том, что ИИ не может дать уникальный ответ - он всегда даёт усреднённые. Он даёт всегда усреднённо-верные ответы, тогда как человек - не всегда.
Если речь идёт о советах в психоло... Читать далее
1 эксперт согласен
Ну, знаете ли, некоторые люди, называющие себя психологами, дискредитируют профессию текстами собственного сочинения, собственной деятельностью и поведением. И в этом они гораздо эффективнее хитрована, списывающего у grt. Что... Читать далее
Здесь эксперты одобрили такие искусственно созданные ответы? Знаете такие случаи? Вот если такие случаи есть, то... Читать дальше
А чем отличается получение информации с помощью ИИ от получения информации из других источников?
С моей точки зрения, эти пути получения информации отличаются только формой и объёмом информации.
У Вас, я думаю, не возникает... Читать далее
Согласен с Вами во всем. Но к сожалению 1. Это не хотят понимать молодежь зацикленная на игрушке чудной "ии" им... Читать дальше
Психолог отвечает на вопросы на Кью с помощью искусственного интеллекта chatGPT и подобных сервисов. Это этично? - Вопрос не имеет отношения к этике, это вопрос профессионализма. Видимо товарищу, просто самому ума не хватает... Читать далее
Первый
Этично только в том случае, если вопрос клиента носит общий, достаточно абстрактный характер и не предполагает уточнения деталей, индивидуальной работы с проблемой.
Спасибо за ответ, в этом есть смысл.