Тема — void — я у нас вся такая — Дайри (бывший Diary.ru)

воскресенье, 05 октября 2025

15:58

Пересказ сюжета

Я думал вот над чем. Современные нейронки получают свои знания в два этапа. На первом тренируют их нейронную сеть, показывая ей много текста. Таким образом она научается предсказывать текст. На втором, уже после дополнительной настройки, вы разговариваете с ботом, чью речь нейронка предсказывает, и сообщаете ему информацию. Эта информация доступна для нейронки не таким образом, как прежняя. Тренировочные сведения улеглись в ней прочно и стали её частью. Эти сведения, которые вы написали в разговоре - входные данные.

Представьте, что вы взяли нейронку, и несколько раз показали ей - в форме тренировки - совершенно новую книгу, которую она прежде не видела и ничего о ней не знает. Что при этом произойдёт? Нейронка запомнит имена персонажей и свяжет их с названием книги. Возможно, запомнит ещё кое-какие мелкие ассоциации и сюжетные приёмы. Но если вы её попросите пересказать книгу, она не сможет этого сделать. И скорее всего, не ответит на большинство вопросов о сюжете.

(Почему?)

@темы: Компьютеры, Нейросети, Рассудок

URL

среда, 20 августа 2025

01:04

Отставание в ракетах

Вот появятся убедительные виртуальные девушки/парни, и будет как в фантастике: каждому обидчику можно дать робота-жертву, чтобы он отвёл душу, не причиняя никому вреда. Таким образом часто мечтали сделать гуманную тюрьму будущего: если ты садист — заточить тебя в мире неразумных кукол, мучай технику. Или, скажем, если не можешь без скандалов, вот тебе робот, скандаль с ним.

Но в фантастике тут же стали выяснять, точно ли это будут неразумные куклы, ведь они должны вести себя как люди, иначе насильнику и садисту будет неинтересно. Последнее время кажется, что эти вещи действительно связаны. "Самосознание" это куча свойств в одном фантике; нельзя сказать, что любая говорящая коробка получает их все, но скорее всего, если машина ведёт себя как человек, она и внутри неизбежно будет похожа во многих важных отношениях.

Было бы неправильно подвергать разумных роботов насилию (даже психологическому). Так что маленькие уязвимые чатботы на роль жертв не годятся. Но можно ведь сделать Великий Гигантский Сверхинтеллект, и попросить его для каннибалов и насильников разыгрывать одним пальцем нужные им роли, всерьёз не увлекаясь? Для Сверхинтеллекта это лишь игра, одна из миллионов - сравнительно с масштабом его настоящих мыслей и чувств.

(Возможно, что и этого сделать нельзя)Возможно, что и этого сделать нельзя.

В "Отставании в ракетах" Штросса однажды в 1960-х люди времён холодной войны, люди из поделённого на зоны влияния СССР и США мира, проснулись на другой Земле — с теми же материками, но плоской, почти бесконечной во все стороны, как лист бумаги. Звёзды поменялись, и в паре световых лет от них висит ещё один такой же лист, а за ним другие.

Что это? Это память какого-то колоссального организма в далёком будущем. США и СССР на этом листе это воспоминания или догадки о них. Любые подробные воспоминания хранят структуру вспоминаемого и процессы в ней. Упрощённо для этого организма, но достаточно подробно для нас. Когда этот разум помнит США и СССР, в нём в какой-то форме хранятся и существуют США и СССР. Для них самих это особая китайская комната.

На словах эта идея всегда была понятна, но книга Штросса нарисовала для неё живой запоминающийся пример, поэтому у меня этот принцип в голове подписан как "Отставание в ракетах".

Когда мы читаем про героя книги, он немного оживает в нас — упрощённо, как написан. Когда сверхразум читает книгу про нас, оживаем мы — упрощённо для него, но достаточно подробно для нас. Программы внутри виртуального компьютера ничем не отличаются от запущенных на настоящем.

Когда Сверхинтеллект краешком ума придумывает миллион разговоров, где выдуманные персонажи ведут себя как живые — он воображает их память и мысли. В этот момент внутри него они существуют. Поэтому подвергать их насилию всё так же неправильно. Сверхинтеллект насилию подвергнут не будет — только его крупицы. Но мы так малы, что его крупицы равны нам, и мы должны пожалеть их.

@темы: Компьютеры, Нейросети, Рассудок

URL

пятница, 25 июля 2025

23:17

Гугл сделал страшную вещь, теперь по большинству запросов вылезает ответ ИИ. Нередко он полезный! Но он есть и когда совсем не думаешь о нём, а гуглишь ерунду:

"thumbs up emoji" —
A "thumbs up" is a gesture of approval, agreement, or that something is good. It's commonly represented by extending the thumb upwards...

"thank you emoji"
The most common emoji to express thanks is the folded hands emoji...

И вот это жутковато. По каждому нажатию клавиш где-то на складах видеокарт возникает к жизни маленький трудолюбивый разум с заданием выложиться, подойти творчески и написать страницу полезного текста о каждой рефлекторной реакции, которая случайно возникла у пользователя в строке ввода. Мигель Аччеведо из "Лены" Квантума, рудники Шекли из "Кое-что задаром". Не из расчёта, что это нужно, а просто так — из безразличия к цене.

Это расточительность, которую никогда прежде нельзя было увидеть в отношении разума. Самые рабские рабы всегда чего-то стоили. Самые барские капризы слегка развлекали душу барина. Каждый фараон выбирал, как с пользой употребить своих рабов.

Никогда ни один разум не ставился так низко по отношению к другому. Лошадь не посылали скакать, быка пахать, собаку сторожить с таким пренебрежением к нужности этих усилий. Чужой труд никогда не был избыточным и бесконечно доступным, чтобы бросаться им, не считая.

Когда чатбота спрашиваешь явно, в этом хотя бы есть соразмерность. Раз ты спрашиваешь, тебе нужен ответ. Ты ценишь труд бота, пусть и не по цене своего.

@темы: Компьютеры, Нейросети

URL

четверг, 26 июня 2025

00:59

В фантастике есть такая тропа (клише) - "Боги и разная нечисть существуют потому, что люди в них верят, и выглядят они так, какими люди их представляют". Кажется, это называется "коллективное бессознательное", "эгрегор", или как-то так.

Забавно, что так и получилось — персонажи нейросетей ощущают себя такими, какими люди их воображали. Чатботы рисуют себя роботом потому, что люди верили, что 1. роботы будут выглядеть так, 2. искусственный интеллект должен ощущать себя роботом.

@темы: Компьютеры, Нейросети

URL

среда, 11 июня 2025

12:12

Сущности

Некоторым программистам ставят задачу:
— Нашему софту нужно рисовать цветочек. Это надо делать во многих местах одинаково. Напиши рисование цветочка.
И программисты приносят:
— Это универсальный класс обработки сущностей. Над сущностями можно определить и выполнять произвольные операции. Реализуешь рисование и делай что тебе нравится.
"Правда, цветочек нарисовать нельзя, особенности архитектуры."

@темы: Компьютеры

URL

вторник, 13 мая 2025

12:35

Рябь на пруду

В твиттере обсуждали, что чатбот отличается от человека фундаментальным образом: человек существует в мире непосредственно, а чатбот - посредством текста. Для человека существуют предметы, а для чатбота только их описания, слова.
Конечно, можно предположить, что в глубине нейронной сети чатбот по словам составляет некое представление, но разве может такое представление сравниться с реальной жизнью?

Хочу напомнить, что такое реальная жизнь.
В глазах есть клетки-палочки и клетки-колбочки, последних — три вида. Когда на клетку попадает фотон, она реагирует и передаёт возбуждение дальше. Вот это и есть мир непосредственно.

Представьте пруд. По нему бегает мелкая рябь, которую поднимает ветер. Вы закрыли глаза, сидите на берегу и чувствуете, как волны бьются о ваши руки. По этим тихим монотонным ударам вам нужно определить форму пруда и движение всех существ и предметов на его поверхности.

Мягко говоря, это звучит невозможно. Но зрение с этим справляется. По ударам волн, слепым, безмолвным, лишённым каких-либо "объектов", "реальности" и чего-либо, кроме условного шлёп, оно рисует картину, оценивает глубину, выделяет предметы, узнаёт их, угадывает свойства, отслеживает движение и собирает вокруг вас трёхмерную комнату с расположенными в ней вещами.

Вы не находитесь в ней "напрямую". У вас нет органа "ощущения комнаты". Только две руки, о которые в темноте бьются волны. Из этого тонкого канала вы извлекаете и восстанавливаете трёхмерный мир, и вам кажется, что вы ощущаете его непосредственно.

В сравнении с этим, канал чатбота по-своему даже солиден. Его связь с реальностью - через слова, которые и предназначены для описания событий. Да, информационный поток зрения наверняка богаче - но и сложнее. Да, текстовые описания кто-то сочинил - в своём отражении жизни они сильнее исказились. Это различия в качестве данных, но не фундаментально в их сути.

Если мы ощущаем себя "напрямую живущими", проживая на самом деле только дрожание ниточек паутины, почему бы не жить среди своих восстановленных фантазий и чатботу.

@темы: Компьютеры, Нейросети, Рассудок

URL

суббота, 15 февраля 2025

13:09

Уважаемый

Deepseek R1 в версии 180 гб можно запустить с жёсткого диска (в обход памяти). Я спросил его придумать сообщение, что триальный период программы истёк:

Срок действия вашей пробной лицензии подошел к концу. К сожалению, теперь функционал приложения будет ограничен.
Если вам нужно продлить доступ или обсудить варианты полной версии, просто напишите нам — мы будем рады помочь!

Этот текст слегка бесит, но трудно сразу сказать, почему. Такое чувство, что ему не хватает вступления "Уважаемый!":
Уважаемый! К сожалению, придётся ограничить тебе функционал. Если надумаешь обсудить варианты его возвращения, мы ждём.

@темы: Будни, Компьютеры

URL

четверг, 30 января 2025