Сон искусственного разума

[fizzik]

Очередная волна восторгов на тему всесилия искусственного интеллекта в лице chatGPT докатилась до меня в соцсетях, и я решил проверить еще раз - может быть, с прошлого раза что-то радикально улучшилось?

На этот раз я решил ударить по биографиям и стал расспрашивать бота о разных людях. Начал, конечно, с себя :) Обо мне ИИ предсказуемо не знает, в чем честно и признался. Что же, уже достижение. Дальше я перепробовал 20 имен - своих родственников, друзей, однокурсников, коллег, научных руководителей и т.п. Обнаружилась закономерность: если человек "неизвестный", т.е. о нем не написано в Википедии, то бот признается, что не знает его. Он предлагает указать дополнительную информацию, но для неизвестных людей она ему не помогает. Что касается людей более-менее известных (таких, о которых в Википедии написано), то бот радостно о них отвечает. Вот только отвечает - полную фигню. Из 20 опробованных мною имен была ровно половина, 10 человек, о которых имеется статься в Википедии. Во всех 10 случаях бот взялся отвечать, но перепутано в его ответах оказалось примерно всё. Профессия правильно не была названа ни разу. Иногда мелькает какой-то отдельный верный факт - например, правильный год рождения или правильная альма-матер. Однажды бот решил указать даже полную дату рождения, и она оказалось верной. Это был единственный верный факт в том ответе. В большинстве же случаев и годы рождения (а для умерших - и смерти) тоже перепутаны. Все достижения, приписанные людям, о которых я спрашивал, оказались фантазиями.

Один ответ для примера я приведу. Кажется, благодаря chatGPT анекдот о Физтехе как физкультурном техникуме получает вторую жизнь :)

Comments

[birdwatcher.livejournal.com]

Редкое сочетание бесполезности и пафосности. Раньше эту нишу занимали космические корабли.

[fizzik]

Космическим кораблям обидно.

[klausnick.livejournal.com]

... порождает чудовищ.

[fizzik]

искусственных чудовищ!

[klausnick.livejournal.com]

Восхитительно!

[imfromjasenevo.livejournal.com]

А мне нравится, что он каждый раз разное пишет. Я кстати его попросил код на матлабе написать, он лажает, причем указываешь, что мол с ошибкой написал, он соглашается и повторяет ошибку

[fizzik]

>>он соглашается и повторяет ошибку

Прямо как студент-двоечник :)

[dmytro gavryushenko (from livejournal.com)]

Cкорее, студент-иностранец.

[fizzik]

Ну, Матлаб один у турка и китайца.

[freedom_of_sea.livejournal.com]

Это ок, он на память шпарит. Эйнштейн бы тоже не ответил, вот Вассерман да

[fizzik]

Эйнштейн бы честно признался, что не знает Давида Яна, но на стал бы его определять в футбольные тренеры.

[rioman.livejournal.com]

Ну блин, ты же не пилишь стамеской? У каждого инструмента есть свои области применения. Области применения чатГПТ только выявляются.

[fizzik]

Верно! Вот я и пытаюсь выявить, одну область применения уже нашел.

[akor168.livejournal.com]

На самом деле обучающая выборка этих сетей очень скромная — оттуда исключены копирайтные материалы.
То есть им вовсе не скормили весь интернет, а наоброт плохо репрезентативную выборку — то есть
мусор на который никто не наложил копирайтную лапу. Потому то они не знают исходников почти всех произведений — их знания
основаны на отражении этих произведений в некопирайтных материалах. Потому-то они и додумывают неизвестные им детали.

[fizzik]

Википедию, значит, можно?

[akor168.livejournal.com]

Википедия была вроде в Дата-сете для ГПТ-3.

[fizzik]

Ну вот, а изучило оно ее как-то очень некачественно.

Кстати, Тургенев с Лермонтовым и Есениным копирайтом не закрыты, но это тоже бота не удержало от выдавания бреда по поводу их произведений.

[akor168.livejournal.com]

А там как-то сложно все равно с копирайтом — на уровне копирайта на текст вроде как нет, но попробуй найти подобный текст с гарантией что таки копирайта нет. Там же на уровне, что вот на оригинал копирайта нет, а на перевод этого текста уже есть, и считается от переводчика. Да и не вставляли они дата сеты на другие языки специально. В общем не читало оно классических произведений, во всяком случае версия 3.

[grigoriyz.livejournal.com]

Как это я пропустил этот пост??