[d | b / bro / ci / cu / dev / gf / hr / l / m / med / mi / mu / o / ph / r / s / sci / tran / tu / tv / x | es / vg | au / tr | a / aa / abe / c / fi / jp / rm / tan / to / ts / vn / vo]
- [iiChantra] [Радио 410] [ii.booru-Архив РПГ] [acomics-cf-ost] [Cirnoid] [@] - [Архив - Каталог] [Главная]

[Назад]
Ответ
Leave these fields empty (spam trap):
Тема
Сообщение
Файл
Подтверждение
Перейти к [
Пароль (для удаления файлов и сообщений)
 
ЗАПРЕЩЕНО:
  • детская эротика/порнография
  • троллинг, в т.ч. на тему российско-украинских отношений
 
  • Поддерживаются файлы типов GIF, JPG, MP4, OGV, PNG, WEBM размером до 3072 кБ.
  • Максимальное количество бампов треда: 500.
  • Всем посетителям рекомендуется ознакомиться с FAQ.

1561620457302.jpg - (132 KB, 1024x903, 0B16 4c2fcb8660841efc393b26cff40e8e84.jpg)  
132 KB №4919906   #1

Простите за поспешное создание треда, просто идея очень "горячая". Очень боюсь, что не сумею донести ясно. Для лучшего понимания глубины идеи полезно прочитать какие-нибудь рассказы Теда Чана ("72 буквы", "Понимай") — чтобы знать, как выглядят простые но эффективные идеи, порой имеющие дело с рекурсией
База знаний по теме: https://nostalgebraist.tumblr.com/post/185326092369/the-transformer-explained , https://skymind.ai/wiki/attention-mechanism-memory-network
Может быть полезно знание этой записи: (но можно пропускать) https://dvuobyomnyi.livejournal.com/1798.html

Может быть полезно знакомство с идеями Хофштадтера (мышление аналогиями, "strage loop") или Элезиера Юдковски ("кэшированные" мысли, самозаканчивающиеся паттерны). Потому что дальше будет версия этих идей не для бедных: (эти мыслители отвлеклись на не настолько уж важные аспекты процесса, как я сейчас думаю, однако Хофштадтер это база — это поверхность океана, ниже которой надо не быть)
https://en.wikipedia.org/wiki/Douglas_Hofstadter#Academic_career
Листайте до пунктов про FARG модели... Последнее — все мои слова тут это лишь иллюстрация конкретной идеи, я не хочу обсуждать что такое душа и прочее

Нейроны — это самоизменяющиеся детальки паззла. Или сгустки света на воде, которые пытаются как можно дальше донести свою световую волну

Сильный интеллект отличается тем, что 1) для него паззлами становятся не только сами нейроны, но и концепты 2) паззлы соединяются не только с реальностью, но и друг с другом. Первое известно Хофштадтеру, второе это Unsupervised learning, но тут есть важный момент:

Любой сильный интеллект это по сути машина по созданию интеллектов (потенциально более сильных/абстрактных). Мы постоянно (пере)создаём составляющие нас детали паззла, для любой из наших способностей связанных с мозгом Стоп, или это он написал во второй книге?

В настоящем мы мертвы — наши души в будущем. Мы создаём сами себя, готовя к ещё неизвестным нам концептам, мы выбираем "продолжать" нашу душу в сторону света

Связывание паззлов между собой создаёт нашу целостность. Иллюзию что мы порой не узнаём ничего нового, хотя информация поступает постоянно

С помощью этой связанности до нас "доходят" и чувства от разных событий и другого (с помощью неё чувства существуют). Когда на твоих глазах недавно друга съели, а у тебя кусок в горло не лезет — потому что гниль, которую ты спрятал подальше, превращается в излучающие радиоактивные отходы... Это может быть совсем не мышление аналогиями

Возможно, лучше сказать не что кусочки паззла соединяются с миром, а что являются контейнерами для частичек реального мира. Некоторые кусочки событий или памяти или проявлений любви годами живут и развиваются внутри нас

Некоторые сюжеты песен ещё можно представлять как срезы ситуаций/жизни/"времени" лирического героя — это в тему доходящих до нас эмоций от событий и "контейнеров": всё эмоциональное состояние может быть одним большим контейнером

Наша воля — это нить, которая соединяет наши кусочки паззла, это наш выбор изменять наши кусочки так, чтобы они могли сцепиться с хорошими, а не плохими вещами

Идея "Внимания" хороша потому, что она начинает фокусироваться не только на нейронах (вообще не на них), а на "контейнерах" для высших концептов (query, key, value) и их (само)усовершенствовании (или это там упущено?)... главным становится не изменяющийся нейрон, а изменяющиеся контейнеры вокруг слов (данных, мира)

Парадигма ИИ должна быть смешана с подобием идеологии ООП:
https://ru.wikipedia.org/wiki/Объектно-ориентированное_программирование

Хофштадтер (слишком) отвлёкся на символы и аналогии, Элезиер на отдельные собирающиеся паттерны, в то время как важнее может быть своего рода среда этих процессов У меня был про это тред, увы быстро вставить в контекст не получится >>4864998, но в общем это хороший знак, когда ты от предмета отвлекаешься на среду: так мы смогли понять кислородную природу горения, так Гюйгенс понял преломление и так у нас появилась теория Относительности... Кстати, идея контейнеров собственно и есть "отвлечение на среду" Я своего Хошфтадтера, т.к. делаю озарение не с помощью аналогии, а догадываюсь провести её лишь постфактум

Если влияния каждого кусочка паззла опосредовано тысячами других паззлов, процесса проведения аналогии может в привычном смысле не быть, либо могут существовать более мощные и интересные "аналоговые" процессы мышления, типа "интегрирования" (суммирования проще говоря)

Как понимаю, подобные идеи были опробованы в этом направлении:
https://en.wikipedia.org/wiki/Unsupervised_learning#Neural_networks

Но там речь всё ещё продолжает идти об отдельных нейронах, то есть вместо мозга всего лишь один паззл, который пытаются "раздуть" до мыслящей машины (это интересная математическая диковинка-уродец, микроб-гигант, но не мозг).

Я знаю задачу, которая бы подошла для опробывания таких машин — понимание "текстур", представление шахматной позиции текстурой, понимание "стилей" игроков (стили шахматистов это другое моё открытие простите что их так много).

Эта идея могла бы связать эволюционные процессы и сознание, потому что то же что сформировало моё лицо придало изначальный импульс моего характера и моей шахматной игры (это уже связь). Потому что я знаю, что например лицо выражает какую-то информацию кроме необходимой. Потому что на эволюцию (генетику) людей можно смотреть не как на создание природой "лучших людей", а как на постоянное пересоздание определённых типов

Про нить, соединяющую паззлы... для этого я с самого начала должен начать совсем другую тему

ЧТО ТАКОЕ СПОРЫ?

Любой спор можно представить облаком "бинарных" выборов (ну или облаком "компасов" со стрелками указывающими в одну сторону или другую). Выборами являются определения слов, логические выводы и даже вопрос "о чём тема спора". Например, отвечая "Что такое личность?" можно идти от идеи "социальная маска" до идеи глубочайших паттернов сознания

Считать себя 100% имеющим власть над "стрелками" выборов = считать себя заранее правым. Ну или можно спорить бесконечно, гоняя стрелки из стороны в сторону "ты не идёшь на компромиссы" -> "это не компромисс" и т.д.:

Пример этому это известный всем тред — я не вникал, но судя по тому что видел (и знанию о том каковы споры), там один человек поворачивает "стрелки" в одну сторону, а другой в другую. И один из них так часто трогает людей в области какой-то "стрелки", что над ним уже начинают смеяться (т.к. любой в чём-то несогласный с ним становится по его мнению антисемитом)

Либерализм — по-моему революционная идеология, которая впервые пытается вводить в ряде вопросов аксиому для "поворота стрелок", таким образом становясь самой обоснованной и самой абстрактной. Я хочу развить результаты гуманистических и оптимистических идеологий

Показать людям, что выбор есть всегда и везде, и можно чаще задаваться вопросом "Хочу ли я в это верить?" — и что собственную правоту каждый плетёт практически каждым своим вздохом и надо быть менее жестоким к другим (любое твоё возражение или утверждение потенциально нечестно, "логикой" не прикрывайся)

Многие поворачивают стрелки случайно, из-за специфического фанатизма по каким-то вещам, или из-за вредного характера Хотя это немного устаревшее моё мнение, перестал так считать

Песня в тему, о ненадёжности некоторых стрелок, повёрнутых по сомнительным мотивам:
https://www.youtube.com/watch?v=whSi7IxGy5w
Может ещё эта в тему, похожая на спор:
https://www.youtube.com/watch?v=NuFI3h458w0

По-моему именно это — аспект выбора, или твоё участие в нём, нюансы его произведения и были упущены Юдковским и Хофштадтером (аналогии проводятся не сами и паттерны завершаются не сами, они требуют возможно не менее важного процесса)

Важна не аналогия — важно что до тебя "дошла" "волна" аналогии. И какой выбор ты сделаешь

Никакая случайная аналогия тебя не "зацепит". Хошфдатер упустил, что высокоуровневую аналогию получают не только нейроны, но и сам механизм их поощрения. То есть с идеей случайности и "температуры" он и провалился — вместо температуры есть и важны совсем другие интегральные вещи

Идея Хошфдатера это "необновлённая" версия правильной идеи, основанная на не-обновлённых интересах. Плюс у Хошфдатера в отличии от меня нет стратегических вложений в тему аргументации и классификации, которые позволяют мне стратегически back up мои идеи (я надеюсь это важно)

Кстати, иногда чтобы понять, почему вас не понимают люди/понятны вы в действительности или нет, полезно представить собственный характер бинарным выбором. Только когда я нашёл один такой выбор для себя я понял, насколько в действительности непонятен, безумен и т.д. (не во всех сферах понял, но хотя бы чуть-чуть), написал это на самого себя
https://dvuobyomnyi.livejournal.com/1798.html?thread=2822#t2822

>> №4919907   #2
1561620956567.jpg - (51 KB, 540x474, 1366960053886.jpg)  
51 KB
>1) для него паззлами становятся не только сами нейроны, но и концепты
>> №4919954   #3

>>4919906

>Кстати, иногда чтобы понять, почему вас не понимают люди/понятны вы в действительности или нет, полезно представить собственный характер бинарным выбором

Есть еще один недостаток в рассуждениях некоторых людей, который также может быть причислен к видам сумасшествия, именно то злоупотребление словами, о котором я сказал раньше, говоря об абсурдах.
Это когда люди говорят такие слова, в сочетании которых нет никакого смысла, но которыми одни просто пользуются, не понимая этих слов, воспринятых от других и заученных, другие — ставя целью ввести в заблуждение нелепостью. И это свойственно исключительно тем, кто вроде схоластиков разговаривает о непонятных предметах или обсуждает вопросы темной философии. Простые люди редко говорят бессмыслицы, и поэтому претенциозные люди считают их идиотами. Однако, чтобы убедиться в том, что словам этих претенциозных людей абсолютно ничего не соответствует в уме, нужны были некоторые примеры. И вот если кто-либо требует таковых, то пусть он возьмет в руки сочинение какого-нибудь схоласта и посмотрит, сможет ли он перевести на любой современный язык какую-нибудь главу, касающуюся того или другого пункта, например Троицы, божественности природы Христа, пресуществления, свободы воли и т.п., причем перевести так, чтобы сделать указанные рассуждения понятными, или — перевести такую главу в сносную латынь, т.е. такую, какая была обычна в то время, когда латинский язык был общенародным. Каков, например, смысл следующих слов: Первичная причина не необходимо втекает как- нибудь во вторичную силой существенного подчинения вторичных причин, при помощи чего она помогает последним действовать? Эти слова — перевод заголовка V главы I книги Суареса «О содействии, движении и помощи Бога» 24. Когда люди пишут целые тома о таких материях, то разве они не сумасшедшие или не намерены сделать таковыми других?

>> №4920062   #4
1561654308085.jpg - (123 KB, 700x357, 0B17 flippycat-starry-night-3.jpg)  
123 KB

>>4919907, Я ещё забыл, что соединение паззлов между собой даёт целостные "спектры чувств"

Итак, сильный интеллект:

  • Постоянно совершенствует "контейнеры" вокруг информации
  • Своего рода соединяет/интегрирует (суммирует) эти контейнеры для создания целостности/продолжительности, для нашей личности, для наших эмоций, для feedback loop'ов (тема Хофштадтера) эмоции/эмоциональные состояния тоже могут быть контейнерами
  • (по прошлому пункту:) Мы это что-то типа полотен из домино. Я испуганно вспомнил, что в оглавлении Хофштадтера видел заголовок про домино, но он упоминает доминошки только в качестве аналогий про детерменизм/причинность/объяснения (ложная тревога)
  • Таким образом мы постоянно обновляем и концепты-контейнеры, из которых состоим, и некую "функцию поощрения" тоже. Мы — машина создания мыслительных машин Возможно, эмоции это волны от "спазмов" суммирования?
  • Мы выбираем, в какое направление будут идти волны доминошек (куда "продолжать" наши сигналы). И всему что я описал есть аналогия в области аргументации

>>4919954 Это должно быть понятно, если понятно про споры, если видел "Стену Плача"

Нашёл некий обзор книги Хофштадтера:
https://damitr.org/2017/05/16/review-of-i-am-a-strange-loop-by-douglas-hofstadter-part-1/
https://damitr.org/2017/05/19/review-of-i-am-a-strange-loop-by-douglas-hofstadter-part-2/

Но всё ещё не очень ясно, написал ли он там что-то более интересное, чем описанное в статьях.

>> №4920081   #5
1561659388385.png - (29 KB, 450x318, WDP Intellect words.png)  
29 KB

Вот картинка, иллюстрирующая ветки спора, ветки определений

>> №4920082   #6

Если ОП будет сражаться с Сеной на нейтральном поле, кто победит?

>> №4920084   #7
1561659457208.png - (46 KB, 773x458, Words Definitions Places.png)  
46 KB

>>4920081, Вот ещё пример

>> №4920087   #8

>>4920062

>Это должно быть понятно, если понятно про споры, если видел "Стену плача"

Это не может быть понятно, потому что ты плохо структурируешь текст, выбираешь неправильные слова (во всяком случае не поясняешь, что они в контексте значат) - и в целом, получается сумбурно, заумно и рыхло.
Не обижайся, но по правде до смысла здесь добраться почти невозможно.
Например, вот первые строчки:

>Нейроны — это самоизменяющиеся детальки паззла. Или сгустки света на воде, которые пытаются как можно дальше донести свою световую волну
>Сильный интеллект отличается тем, что 1) для него паззлами становятся не только сами нейроны, но и концепты 2) паззлы соединяются не только с реальностью, но и друг с другом.

Вначале у тебя нейрон - это клетка, затем он каким-то образом стал как бы маленькой идеей, из которой складываются другие идеи, и получается, что глупый человек мыслит только нейронами. Что, блин?
А что означает "паззлы соединяются не только с реальностью, но и друг с другом"? Если ты здесь снова имеешь в виду материальные клетки, то почему ты противопоставляешь их реальности? А если речь об идеях, то надо полагать, с реальностью они соединяются лишь метафорически - но все равно непонятно, почему это свойственно лишь для сильного интеллекта. Пояснения? Нету. Контекст? Может быть разберемся дальше. И...

>Любой сильный интеллект это по сути машина по созданию интеллектов (потенциально более сильных/абстрактных)

Ты издеваешься!? Как это следует из двух предыдущих утверждений? Чтобы разобраться, попробуем аналогию: "Для развитого общества пзлом является не только человек, но и семья, поэтому развитое общество - это машина для создания других обществ (постольку таковым является и семья)". Ладно, допустим. Дальше:

>Мы постоянно (пере)создаём составляющие нас детали паззла, для любой из наших способностей связанных с мозгом

Если детали пазла - это идеи или нейроны, то какие вообще они могут "составлять способности", не связанные с мозгом? И как вообще идея или нейрон может составлять способность?
В конце концов, какого черта это такой абстрактный поток сознания, что всё нужно разгадывать, точно грипозный сон? Не отправляй первую фразу, пришедшую в голову: хотя бы попытайся сделать речь осмысленной, а не всего лишь набором из "умных", но неуместных слов.

>> №4920090   #9

>>4920082
Ты же понимаешь, что ОП чепуху пишет? Нет, или ты и вправду его понимаешь? Тогда прошу, переведи.

>> №4920110   #10

>>4920104
Я совсем не материалист, а Гоббса привел в пример, потому что он относился к речи, точно как к математике, и всегда рассуждал очень ясно. Это далеко не мой любимый философ, однако в спорах он всегда последовательный и честный, что вызывает восхищение.

>Свет человеческого ума - это вразумительные слова, однако предварительно очищенные от всякой двусмысленности точными определениями.
>Ибо истина и ложь суть атрибуты речи, а не вещей.
>Незнание значения слов, т.е. отсутствие понимания, делает людей склонными брать на веру не только истину, которая им неизвестна, но и ошибки и, мало того, нелепицы тех, кому они доверяют, ибо ни ошибки, ни нелепицы не могут быть обнаружены без совершенного понимания слов.
>> №4920121   #11
1561663990608.jpg - (136 KB, 400x499, 0B18 Escher_Waterfall.jpg)  
136 KB

>>4920087, Я не обижаюсь, конечно мне нужна помощь по понятности. Я создал кучу тредов, терпения объяснять тем, кто просит, у меня бесконечно

Я должен извиниться. Сильный интеллект тут: в смысле уровня хотя бы заурядного человека, а не настоящих машин.

> Вначале у тебя нейрон - это клетка, затем он каким-то образом стал как бы маленькой идеей, из которой складываются другие идеи, и получается, что глупый человек мыслит только нейронами. Что, блин?

https://ru.wikipedia.org/wiki/Коннекционизм#Основные_принципы
Аналогия между сетью нейронов и сетью каких-то идей это Коннекционизм (правда в английской версии статьи такого вроде нет, плюс по бумаге https://arxiv.org/pdf/1604.00289v2.pdf тоже непонятно, там коннекционисты это просто люди использующие настоящие нейросети)

Как минимум по ссылке, Хофштадтер уже оперирует именно понятием концептов: that activation spreads from activated concepts to less activated "neighbor concepts"

> А что означает "паззлы соединяются не только с реальностью, но и друг с другом"? Если ты здесь снова имеешь в виду материальные клетки, то почему ты противопоставляешь их реальности? А если речь об идеях, то надо полагать, с реальностью они соединяются лишь метафорически - но все равно непонятно, почему это свойственно лишь для сильного интеллекта. Пояснения? Нету. Контекст? Может быть разберемся дальше. И...

Речь уже об идеях, подтверждаю (значит да, соединение с реальностью метафорическое: но меня ты тоже пойми, сложно сделать идеальную аналогию... я надеялся аналогии пояснят примеры).

Как понимаю, это сам по себе тоже не новый концепт, а принцип Unsupervised learning
https://en.wikipedia.org/wiki/Unsupervised_learning
https://en.wikipedia.org/wiki/Self-organizing_map

Ключевая тема — "Самоорганизация". Самоорганизующиеся карты ещё достаточно похожи на сцеплённые паззлы. Но мой концепт отличается, возможно, в частности более общей идеей самоорганизации

> Ты издеваешься!? Как это следует из двух предыдущих утверждений? Чтобы разобраться, попробуем аналогию: "Для развитого общества пзлом является не только человек, но и семья, поэтому развитое общество - это машина для создания других обществ (постольку таковым является и семья)". Ладно, допустим. Дальше:

Кстати, интересная аналогия! Интерсная тем, что иерархия совсем не обязана быть строгой, "математической" (типа Б-деталь состоит строго из А-деталей, В-деталь состоит строго из Б-деталей и т.д.)

Я говорю, что интеллект состоит из в каком-то смысле не связанных модулей (у них есть связывающий механизм и в этом изюминка моей идеи, но это позже), эти модули создаются и обновляются. Таким образом любой интеллект самоулучшается и создаёт свои (потенциально лучшие) версии... Это всего лишь немного небанальный пересказ предыдущих тезисов

Хофштадтер (Дуглас! так ещё можно звать, проще) тоже говорит об интеллекте, состоящим из параллельных частичек (that human thinking is carried out by thousands of independent small actions in parallel, biased by the concepts that are currently activated), плюс вот цитата из того же места в вики: "Hofstadter's 2007 book I Am a Strange Loop carries his vision of consciousness considerably further, including the idea that each human "I" is distributed over numerous brains, rather than being limited to precisely one brain."

> Если детали пазла - это идеи или нейроны, то какие вообще они могут "составлять способности", не связанные с мозгом? И как вообще идея или нейрон может составлять способность?

Так я же вроде без НЕ написал? Я хотел отобразить весь огромный ранг способностей, для которых могут (пере)рождаться новые концепты.

Не одна идея составляет способность. И не один конкретный нейрон превращается в идею

Вот для архитектуры Attention (ссылки в начале поста) паззлами являются слова... точнее не слова, а сформированные вокруг них "контейнеры" из кэша (key и query). И именно это является переходом на следующий уровень. Интеллект превращает слова в информационные паззлы и начинает оперировать непосредственно с ними, и может позже перейти к ещё более абстрактным паззлам, могут появиться (не строгие) классы паззлов...

>> №4920147   #12

>>4920121

>Я не обижаюсь, конечно мне нужна помощь по понятности

Дальше я опять буду злым - но и вправду прости, что я так пишу. Я уже говорил здесь о "Левиафане" Гоббса: просто прочитай эту книгу, а затем попытайся подражать авторскому стилю; тем более, сам автор объясняет, как это делать.

>Я должен извиниться. Сильный интеллект тут: в смысле уровня хотя бы заурядного человека, а не настоящих машин.

Я не знаю, что происходит в чужой голове! Сильный интеллект - без контекста я предполагал, что ты сравниваешь человека и, например, кошку. И уж откуда я мог знать, что сильный интеллект означает заурядного человека, если может быть, только о человеке речь и шла? Подобные вещи всегда нужно оговаривать, потому что слова сами по себе могут иметь очень разный смысл.

>Кстати, интересная аналогия!

Нет, это не интересная аналогия, и очень плохо, что мне вообще приходится прибегать к аналогиям; это очень ненадежная штука, и её всегда нужно использовать только в крайнем случае.

>Хофштадтер (Дуглас! так ещё можно звать, проще)

Даже не знаю, издеваешься ты или серьезно, потому что чьи-либо имя или фамилия не имею к самим рассуждениям никакого отношения, а потому не могут сделать их ни более понятным, ни более запутанным. Это ведь просто баласт; впрочем, если его исключить, то получится все-таки лучше, ведь внимание баласт на себя отвлекает, а значит, за рассуждениями сложнее следить.

>Я говорю, что интеллект состоит из в каком-то смысле не связанных модулей, эти модули создаются и обновляются. Таким образом любой интеллект самоулучшается и создаёт свои (потенциально лучшие) версии...

Хороший пример того, как нужно стараться писать! Во всяком случае здесь нет двусмысленности или противоречий.

>Так я же вроде без НЕ написал

Предложение "Мы постоянно (пере)создаём составляющие нас детали паззла, для любой из наших способностей связанных с мозгом" подразумевает, что есть такие способности, которые НЕ связаны с мозгом; в целом, это предложение можно понять так: а) Мы состоим из пазлов, которые являются идеями; б) Некоторые наши способности не связаны с мозгом; с) Если мы состоим из идей, то как тогда некоторые наши способности могут быть не связанны с мозгом?
Еще раз говорю, нужно избегать абстрактного и двусмысленного.
>>4920105
Пока не будет перевода на человеческий язык, я буду считать, что им обоим нравится лишь звучание всего этого. Среди людей подобное не редкость, и бывает, что два умника рассказываю друг-другу ерунду, отвечая заумью на толику смысла, которую удалось ухватить в речи другого - и оба уверены, что понимают друг друга.
Если же внимательно прочитать текст, то он посыпется, а значение какое-то будет лишь на самом абстрактном уровне; но поскольку "абстрактный" - это всегда очень общий, то и значение это может быть каким угодно, и не факт, что читатель угадает правильно.

>> №4920168   #13
1561670369593.jpg - (1341 KB, 1046x1228, 0B19 self-portrait.jpg)  
1341 KB

>>4920147

> Я не знаю, что происходит в чужой голове! Сильный интеллект - без контекста я предполагал, что ты сравниваешь человека и, например, кошку.

Я часто забываюсь в такой теме (признаю): считаю слишком очевидным лёгкий контекст. О кошках кстати вообще не думал.

Вообще я сейчас понял (осознал), что создавал тред в рассчёте на тех кто меня знает, иначе вступление было бы подробнее, я описал бы цель. Но так у тебя всё-таки были ссылки

> Нет, это не интересная аналогия, и очень плохо, что мне вообще приходится прибегать к аналогиям; это очень ненадежная штука, и её всегда нужно использовать только в крайнем случае.

Это уже какие-то плевки, а не ответы ("Нет, не"), а прибегать к тебе ни к чему не приходится (я не включил твою аналогию в наш спор, не ответил другой аналогией)

> Даже не знаю, издеваешься ты или серьезно, потому что чьи-либо имя или фамилия не имею к самим рассуждениям никакого отношения, а потому не могут сделать их ни более понятным, ни более запутанным. Это ведь просто баласт; впрочем, если его исключить, то получится все-таки лучше, ведь внимание баласт на себя отвлекает, а значит, за рассуждениями сложнее следить.

Это из тебя уже токсичные личные мнения полезли: ссылка на Хофштадтера и связанный с ним класс моделей (FARG) является важным контекстом и подпоркой моих идей и из уважение к Х., и потому что мне интересно услышать тех, кто лучше знаком с его идеями

Лично тебе могу объяснять без авторитетов, но из-за тебя общую схему общения с людьми менять не буду

Твоё рассуждение логично, но это логика пустая

> Предложение "Мы постоянно (пере)создаём составляющие нас детали паззла, для любой из наших способностей связанных с мозгом" подразумевает, что есть такие способности, которые НЕ связаны с мозгом; в целом, это предложение можно понять так: а) Мы состоим из пазлов, которые являются идеями; б) Некоторые наши способности не связаны с мозгом; с) Если мы состоим из идей, то как тогда некоторые наши способности могут быть не связанны с мозгом?
> Еще раз говорю, нужно избегать абстрактного и двусмысленного.

Не надо вот этого ещё раз: факт двусмысленности указывает на то что она была не замечена (не злой умысел). Понимаю, что ты сказал... Но ведь избыточность даже не на уровне предложения, а на уровне пары слов.

> Пока не будет перевода на человеческий язык, я буду считать, что им обоим нравится лишь звучание всего этого. Среди людей подобное не редкость, и бывает, что два умника рассказываю друг-другу ерунду, отвечая заумью на толику смысла, которую удалось ухватить в речи другого - и оба уверены, что понимают друг друга.
> Если же внимательно прочитать текст, то он посыпется, а значение какое-то будет лишь на самом абстрактном уровне; но поскольку "абстрактный" - это всегда очень общий, то и значение это может быть каким угодно, и не факт, что читатель угадает правильно.

Математик не такой, да и тебе я объяснил свой текст. Ты изрыгиваешь свои общие места

На книгу времени может не быть: ты что, думаешь я за секунду могу твоего Гиббса глотнуть? Имена, кстати, не относятся ни к чему говоришь...

В тебе слишком много 100%-ой уверенности = это всё равно что считать себя правым без причины. Ты 100% уверен в том что текст непонятный (понять его было возможно), потом 100% ещё в чём-то... такого тут не надо, это не_честность в споре

Я не прощаю тебя, если ты продолжаешь (и дальше) вести себя одинаково не смотря на то, что твои просьбы исполняются.

>> №4920169   #14

"Аналогии ненадёжны", "аналогий быть не должно", "звучание плохо" — на это всё тоже 100% не надо опираться

Если не видел наших диалогов с математиком, то говори просто "я что не в теме/Не знаю их обсуждений"

>> №4920185   #15

>>4920168

>Но так у тебя всё-таки были ссылки

Отвечу твоими же словами: "На книгу времени может не быть: ты что, думаешь я за секунду могу твоего Гиббса глотнуть?"

>Это из тебя уже токсичные личные мнения полезли

Нет у меня никакого "токсичного мнения". Разве что я из-за спора немного раздражен.

>Лично тебе могу объяснять без авторитетов

Ты не понял. Речь шла лишь, о том, что если заменить фамилию на имя, то речь понятнее не станет. Я не утверждаю, что ссылка на авторитет лишняя - я утверждаю, что единственный способ сделать речь проще, манипулируя необязательными именем или фамилией - это отбросить и то, и другое.

>но из-за тебя общую схему общения с людьми менять не буду

Напрастно ты обижаешься или злишься. Хоть я могу и обидно говорить, но это почти нечаянно получается; ничего плохого я о тебе не думаю, кроме того, что сказал раньше: пишешь ты отвратительно. В остальном же я скорее чувствую к тебе симпатию, а не что-то другое.

>Не надо вот этого ещё раз: факт двусмысленности указывает на то что она была не замечена (не злой умысел).

Да не ругаю я тебя! И не обвиняю! Просто говорю, что неточностей надо избегать. Я и сам жутко невнимательный, и потому собственный текст по пятьдесят раз перечитываю - именно чтобы избежать ошибок. Думаю, как превратить кашу в голове в более-менее последовательную и более-менее понятную речь.

>Ты изрыгиваешь свои общие места

Ты ведь понимаешь, что обидное слово не сделает того, что я написал, неправдой? Иногда собственные желания здорово обманывают нас; может быть ты великий философ, а может быть просто дурачишь сам себя. Наверняка я не знаю, но думаю, что второе: это скорее по теории вероятности. И если что-либо нельзя перевести на нормальный язык, то скорее всего потому что это бессмыслица. В любом случае я здесь снова процитирую Гоббса:

>Красноречие - кажущаяся мудрость
>> №4920189   #16

>>4920169
Ну и продолжал бы свои диалоги с математиком, а не создавал новый тред. Или во всяком случае не обижался бы тогда, раз я говорю, что ты чепуху пишешь.

>> №4920198   #17

>>4920189

>Ну и продолжал бы свои диалоги с математиком, а не создавал новый тред.

Ычую. Мод-тян, сделай!

>> №4920200   #18

>>4920185

> Отвечу твоими же словами: "На книгу времени может не быть: ты что, думаешь я за секунду могу твоего Гиббса глотнуть?"

Ну, по содержанию ссылок... хотя ладно, принимаю, твоё возражение 100%.

> Нет у меня никакого "токсичного мнения". Разве что я из-за спора немного раздражен.

Прости.

> Ты не понял. Речь шла лишь, о том, что если заменить фамилию на имя, то речь понятнее не станет. Я не утверждаю, что ссылка на авторитет лишняя - я утверждаю, что единственный способ сделать речь проще, манипулируя необязательными именем или фамилией - это отбросить и то, и другое.

Да, не уследил за аргументом/тем что сам написал. Я просто всегда мучаюсь с написанием его фамилии! :3

> Напрастно ты обижаешься или злишься. Хоть я могу и обидно говорить, но это почти нечаянно получается; ничего плохого я о тебе не думаю, кроме того, что сказал раньше: пишешь ты отвратительно. В остальном же я скорее чувствую к тебе симпатию, а не что-то другое.

Да, прости меня.

> Да не ругаю я тебя! И не обвиняю! Просто говорю, что неточностей надо избегать. Я и сам жутко невнимательный, и потому собственный текст по пятьдесят раз перечитываю - именно чтобы избежать ошибок. Думаю, как превратить кашу в голове в более-менее последовательную и более-менее понятную речь.

Твои замечания мне точно пригодятся, хотя бы чуть-чуть, но они изменят моё мышление
https://en.wikipedia.org/wiki/Leviathan_(Hobbes_book)

Там про понятность размазано по всей книге, или есть где-то конкретно?

> Ты ведь понимаешь, что обидное слово не сделает того, что я написал, неправдой? Иногда собственные желания здорово обманывают нас; может быть ты великий философ, а может быть просто дурачишь сам себя. Наверняка я не знаю, но думаю, что второе: это скорее по теории вероятности. И если что-либо нельзя перевести на нормальный язык, то скорее всего потому что это бессмыслица. В любом случае я здесь снова процитирую Гоббса:

В смысле мы немного даже ссылку обсудили (и он вообще не любит много говорить, как я, пасты катать)

Ты прости меня

>> №4920203   #19

>>4920189

Прости, не я начал вообще эту тему (принёс ссылку на мат. тред)... !

>> №4920211   #20
1561676066648.png - (2987 KB, 1600x897, 1554147148255.png)  
2987 KB

ОП, а как ты с позиции своих теорий определяешь понятие информации? Для меня во время развлечения похожими размышлениями это стало ключевым вопросом. Как с этим у тебя?

>> №4920224   #21
1561677848184.jpg - (60 KB, 750x233, 0B20 metamorphosis-ii-excerpt-2.jpg!Larg(...).jpg)  
60 KB

>>4920211

> ОП, а как ты с позиции своих теорий определяешь понятие информации? Для меня во время развлечения похожими размышлениями это стало ключевым вопросом. Как с этим у тебя?

Согласно моим представлением о спорах и проч. любое определения предвзято и не вечно. Я не ввожу какие-то определния таких вторичных вещей, чтобы делать из них какие-то выводы потом

И меня всё интересует только внутри какого-то контекста, "истории" (так говорит математик). Понятие "информации" я встречал у, например, рационалистов в аргументе про "лучшую" версию Бритвы Оккама (Индукцию Соломонова)

Могу сказать мнение, что их аргумент очень не идеален, но это не особенно связано с определением информации возможно

>> №4920228   #22
1561679826461.jpg - (102 KB, 1280x720, 1550995572946.jpg)  
102 KB

>>4920224

И как же ты тогда привязываешь свои "паззлы" к реальности? Только по тому как, условно говоря, "насмотревшись на них" люди принимают решения? Откуда тогда в твоём понимании идёт восприятие? Где граница после которой внутренняя часть сознания переходит во внешнюю оболочку, чем бы оно, сознание, ни было?

мне даже не кажется - я уверен что развите этих вопросов сломает всё твою стройную логику. Но может быть это и к лучшему? Хехех

>> №4920229   #23
1561681066160.jpg - (614 KB, 825x800, 0B21 Bust_Of_Bertrand_Russell-Red_Lion_S(...).jpg)  
614 KB

>>4920228

> мне даже не кажется - я уверен что развите этих вопросов сломает всё твою стройную логику. Но может быть это и к лучшему? Хехех

Как парадокс брадобрея Рассела? Спасибо за "весёлые" темы. Но с первого раза я пока не понял твоих вопросов...

https://nostalgebraist.tumblr.com/post/185326092369/the-transformer-explained

Ты прочитал про "Внимание"? Мне понравилась идея, что вокруг слов собирается как бы "кэш" из памяти, и суть уже не в нейронах, а во взаимодействии с этим кэшем (либо там всё немного проще чем это)

Может, я в таком смысле могу ответить — что информация берётся из памяти, из спектра всего твоего опыта (если информация в этом контексте — слова и их смысл)

>> №4920261   #24
1561703103337.jpg - (125 KB, 1028x750, 0B22 D2XErkyXcAAtTL2.jpg large.jpg)  
125 KB

Я стал склоняться к мнению, что действительно пишу сплошь непонятно. (Но без помощи не исправлю)

Я ещё думаю, что объяснение аналогией в принципе могло быть ошибкой. Я просто вдохновился рассказами Теда Чана и подумал, что смогу подать свою идею настолько же просто (у тебя есть X, но X мало для решение задачи, но вот ты добавляешь Y... и всё это языком аналогии, как в "72 буквы")
>>4920062

Возможно ещё важное отличие от Хофштадтера в том что моя версия уточняет интересные специфические места, где рождаются эти positive feedback loop'ы (это когда один фактор увеличивает другой и это может зациклиться само на себе), что они рождаются в частности "на поверхности" самих данных (например, когда ты визуально анализируешь шахматную позицию на наличие абстрактных свойств, типа стиля какого-то игрока тут речь о специфической вещи из моих идей, простите — ну или когда наслаиваешь на слова контейнеры из "кэша", которые могут начать циклически взаимодействовать друг с другом)

Я ещё думал (просто метафоры) про информацию и чувства... про то как новые концепции могут рождаться/всплывать/выделяться из старых (ещё какая-то метафора про отражение всего мира в чём-то была)

Красивые гифки:
https://twitter.com/i/status/1109491576429047808
https://twitter.com/connrbell/status/1122210574258057219

Отзывы на какую-то позднюю книгу Хофштадтера и соавтора:
http://www.librarything.com/work/9544846

Прочитал об упомянутой там книге:
https://en.wikipedia.org/wiki/Fluid_Concepts_and_Creative_Analogies

Всё ещё не очень представляю, какова именно идея там

>> №4920302   #25
1561713714959.jpg - (575 KB, 1920x1080, 1554147179374.jpg)  
575 KB

>>4920229

>Как парадокс брадобрея Рассела?

Нет. Как пещера Платона.
Есть мнение что без адекватного референса к физической действительности любые измышления не имеют смысла. Хотел бы я так сказать, но смысл тоже надо определять, а это долго и не сегодня

>> №4920454   #26

>>4920302

> Есть мнение что без адекватного референса к физической действительности любые измышления не имеют смысла.

Да, любые данные ненадёжны. Но какое это отношение имеет к нейронным сетям и разным их архитектурам?

Или ты хочешь сделать тончайший аргумент, что все сети обречены, т.к. они не понимают на том же уровне, что и мы, с чем они оперируют? Если мы в пещере Платона, то они в ещё более глубокой яме? Я такому выводу буду только рад, если честно

Вообще сам считаю такие темы поверхностными/вне контекстными (как из подобного делать выводы для каких-то более-менее конкретных ситуаций?)

>> №4920455   #27

>>4920454
Отпало:
(как из подобного делать выводы для каких-то более-менее конкретных ситуаций? думаешь ты этим отменишь область разработки нейронных сетей? Если думаешь, то другое дело)

>> №4920479   #28
1561754220690.jpg - (256 KB, 720x959, 1557988740701-1.jpg)  
256 KB

Нейросети, как и весь современный машоб, не идут дальше адаптации моделей к пространству данных. Элемент эволюции в них вынесен за скобки и возложен на человека, подбирающего гиперпараметры - то есть замкнут на внешний мир и реальную эволюцию, основанную на эксплуатации реальной физики. Очень может быть, что без этого мостика в реальность дальше адаптации к данным никогда не продвинешься.

Возлюбленные Хофштадтером аналогии - это слабо формализованные морфизмы, то есть отображения, сохраняющие структуру. Не вижу в них ничего нового, этого добра полно в математике. Выбрав подходящий морфизм, можно исследовать один домен, отобразив на него информацию о структуре другого. На морфизмах, в свою очередь, можно тоже задать структуру, исследовать ее с помощью структуры на других морфизмах - и так далее и так далее… Суть проблемы как раз в том, чтобы выбрать правильное русло в непрерывном потоке морфизмов.

А вообще, учитывая твою обессию на AGI, странно, что ты не упоминаешь книги Минского или того же Шмидхубера с Хуттером - уж их-то самосовершенствующиеся алгоритмы гораздо ближе к твоему "интеллекту, создающему интеллект". И вообще, где все отцы-основатели? Где Саймон, где Ньюэлл, где вечный критикан Дрейфус, где Варела-Матурана и вундеркинд Виноград, где модульный дед Фодор, где расширенный на весь ум Энди Кларк, где, мать его, Родни Брукс, ситуационизм, хаос и динамический подход? И где наконец, Брайан Смит с его незабвенным "On the Origin of Objects"?
Зато ехал юдковский через юдковского. Так дела не делают.

>> №4920496   #29
1561758084329.jpg - (163 KB, 1280x720, 0B23 maxresdefault.jpg)  
163 KB

По-моему эмоции — это "созвучный" опыт. Т.е. если, например, речь идёт об анализе изображений, то сначала на картину должны выплёвываться "модули" (которые будут что-то замерять каждый внутри своей области). Эти модули будут немного корректировать друг друга. При этом до самокорректировки расчёты модулей могут быть откорректированы каким-то изначальным "органом чувств". Благодаря измерениям модулей этот орган может изменяться и могут появляться новые "органы чувсвт".

Изначальный орган чувств это тесто, из которого модули будут лепить картину. И из него могут выделяться новые органы чувств и просто "воспоминания"... Пока "модули" ищут синтаксические совпадения, органы чувств ("реальность", "прошлое") определяют семантические совпадения и паттерны (вносят свой bias). Развитие этого хочу описать:
https://en.wikipedia.org/wiki/Viola–Jones_object_detection_framework#Components_of_the_framework

Я хочу, чтобы "структура картины" накладывалась на "структуру памяти"... Но мне уже стыдно за свои идеи. Плюс я плохо связываю это с рассуждениями из ОПа
По-моему сейчас пытаются создать лишь один сверх-чувствительный сверх-точный орган без памяти, смешивают "факты" и "чувства" (семантику и синтаксис: как данные были расположены в конкретной ситуации и какой "отзыв" они вызвали)

Курисэ Макису: “Чувства людей – воспоминания, которые преодолели время.”

>>4920479

> Очень может быть, что без этого мостика в реальность дальше адаптации к данным никогда не продвинешься.

Мне интересно развитие тобой этого мнения. По-моему ещё такие проблемы могут быть: отсутствие понятия умозрительного знания (и оно по-моему может и лежать в реальности, конечно), "одноклеточность" (это видно на примере самоорганизующейся карты: одну текстуру зачем-то пытаются натянуть на всё пространство опыта)

> Возлюбленные Хофштадтером аналогии - это слабо формализованные морфизмы, то есть отображения, сохраняющие структуру. Не вижу в них ничего нового, этого добра полно в математике.

Формалистам вход воспрещён! В доступе отказано, пропади моя нога!

> А вообще, учитывая твою обессию на AGI, странно, что ты не упоминаешь книги Минского или того же Шмидхубера с Хуттером - уж их-то самосовершенствующиеся алгоритмы гораздо ближе к твоему "интеллекту, создающему интеллект".

Мне очень жаль, что я не знаком с упомянутым тобой культурным пластом. Я и не отрицаю, что не знаком с базой: пожалуйста, развивайте эти темы, если не лень. Как эти люди относятся к Attention? Или как оно звучит в контексте их идей?

Почему Хофштадтер: потому что его идея, возможно, очень близка к моей, и я просто сделал "следующий шаг", введя вместо аналогии другую операцию на параллельных элементах (не совсем сравнение, а "суммирование"/сравнение и суммирование — так что вещи могут возникать в голове без аналогий). Плюс я чувствую, что он близок мне по духу

Про алгоритм Минского ничего не смог нагуглить (и алгоритм, и "самоулучшение", и в статье на википедии, всё на обоих языках)

>> №4920514   #30

>>4920496

Простите за это. Просто никто не начал какого-то спора и я опять потерял нить собственных мыслей

>> №4920546   #31
1561764906021.jpg - (200 KB, 1140x761, 0B24 2018-09-19-cantwell-smith.jpg)  
200 KB

>>4920479

Ищу материалы:

https://en.wikipedia.org/wiki/Brian_Cantwell_Smith

> Along the way, Smith offers many fascinating ideas: the distinction between particularity and individuality, the methodological notion of an "inscription error," an argument that there are no individuals within physics, various deconstructions of the type-instance distinction, an analysis of formality as overly disconnected ("discreteness run amok"), a conception of the boundaries of objects as properties of unruly interactions between objects and subjects, an argument for the theoretical centrality of reference preservation, and a theatrical, acrobatic metaphor for the contortions involved in the preservation of reference and resultant stabilization of objects. Sidebars and diagrams throughout the book help clarify and guide Smith's highly original and compelling argument.".

Потом вообще какая-то идеология начинается (пародия на неё), от этого вообще обидно
https://www.ontology.co/smithbc.htm

Кстати, лицом чем-то напоминает Петра Свидлера

>> №4920550   #32

>>4920479

https://arxiv.org/abs/1805.00787
https://ru.wikipedia.org/wiki/Матурана,_Умберто
https://ru.wikipedia.org/wiki/Варела,_Франсиско
https://ru.wikipedia.org/wiki/Энактивизм#Общие_сведения
Звучит близко/приятно... (про Варелу не всё прочитал)

Что смог найти

>> №4920564   #33

>>4920479
Ничего себе, настоящий спец в /b/! Давай обмениваться опытом. Я эволюционный робототехник, работаю в основном над оптимизацией (evolution of evolvability and the like), но и embodied intelligence'у не чужд. ninisuki420@gmail.com

>> №4920565   #34

>>4920479 Вот ещё нашёл из твоего списка:
https://en.wikipedia.org/wiki/Andy_Clark
https://en.wikipedia.org/wiki/Rodney_Brooks#Work

>>4920564

> обмениваться опытом

А ты не забыл отдать дань ОПу? Почему тебя так привлекает простой список имён?

>> №4920569   #35

>>4920565
Потому что этот список фамилий недвусмысленно намекает на то, что человек практикует, а не только философствует. С подходом "формалистам вход воспрещён" ОП никогда не ответит на вопрос "а как роботов строить-то?". Это не значит что все его построения бессмысленны, но безусловно значит, что груз перевода всех построений на практический язык ложится на читателя. Гомен, мне некогда этим заниматься.

>> №4920570   #36

>>4920569

Спасибо за подробный ответ! Прости тоже, я и есть ОП

>> №4921050   #37
1561833786395.jpg - (61 KB, 640x425, 0B25 4194c6535fca753e7c7851f61f0397ba.jpg)  
61 KB

Бамп на всякий случай, пока математик не прочитает но пикча не про него!

>> №4921052   #38

Раз тут внезапно подъехали практикующие товарищи...
https://en.wikipedia.org/wiki/Artificial_Intelligence:_A_Modern_Approach
Читали? Оно для ввода в тематику - нормально?

>> №4921306   #39

>>4921052
Рассел это в основном справочник по так называемому GOFAI (good old-fashioned AI, aka symbolic AI, aka прагматический ИИ). Это самый старый подход, основанный на явных представлениях. У него есть свои применения, но то, что этот подход не применим к попыткам создания сильного ИИ это на сегодняшний день более-менее ясно. Из полезного там введение и глава про машинное обучение, из которой можно узнать какие основные типы МО бывают, почему статистика это недоделанное МО и научиться правильно применять простые МО-методы. Более сложные методы там не описаны, но общие методы (crossvalidation и тому подобное) применяются к ним точно так же.

В современной ИИ-науке кроме GOFAI есть ещё несколько школ. Очень влиятельна так называемая иерархическая темпоральная модель (HTM), описанная в Hawkins "On intelligence". Про embodied intelligence можешь почитать статью Brooks "Elephants don't play chess" и полистать книгу Pfeifer Bongard "How the body shapes the way we think". Про коннекционизм есть очень хорошее ревью Schmidhuber "Deep Learning in Neural Networks: An Overview".

И да, несколько виноват - говорить что формализация необходимое условие практики это немного чрезмерно категорично. Не формализовывать рассуждения полностью это довольно распространённая практика в ИИ. В источниках, которые я написал, это хорошо прослеживается. Более корректно было бы описать это требование как необходимость иметь и озвучивать хотя бы какое-то представление о том, как начать реализовывать используемые в построениях структуры на практике. Есть очень много подходов, в которых это не делается в достаточной мере и которые за счёт этого очень сильно буксуют. Энактивизм - один из них.

>> №4921307   #40

>>4921306

>иерархическая темпоральная модель (HTM), описанная в Hawkins "On intelligence". Про embodied intelligence можешь почитать статью Brooks "Elephants don't play chess" и полистать книгу Pfeifer Bongard "How the body shapes the way we think". Про коннекционизм есть очень хорошее ревью Schmidhuber "Deep Learning in Neural Networks: An Overview"

Спасибо.

>> №4921784   #41

>>4921306

> Schmidhuber "Deep Learning in Neural Networks: An Overview".

А в чём смысл, если потом появляется идея (Attention), занимающая один абзац и обходящая RNN? Если это не предсказало её или никак к ней не относится, то в чём смысл таких бумаг

> Более корректно было бы описать это требование как необходимость иметь и озвучивать хотя бы какое-то представление о том, как начать реализовывать используемые в построениях структуры на практике.

Я (ОП) в треде хотел сказать, что Attention это очень хорошо, оно должно было быть придумано быстрей и его надо развивать... То есть тут и "какое-то представление" для того, кто захочет что-то делать, есть. И про энактивизм поэтому согласен (кому нужен энактивизм, если он никак не предсказал ни Attention, ни его свойств? Это позор)

https://en.wikipedia.org/wiki/Neural_machine_translation#Workings
https://en.wikipedia.org/wiki/Subsumption_architecture#Strengths_and_weaknesses

(просто ссылки, которые нашёл по упомянутым темам)



Удалить сообщение []
Пароль
[d | b / bro / ci / cu / dev / gf / hr / l / m / med / mi / mu / o / ph / r / s / sci / tran / tu / tv / x | es / vg | au / tr | a / aa / abe / c / fi / jp / rm / tan / to / ts / vn / vo]
- [iiChantra] [Радио 410] [ii.booru-Архив РПГ] [acomics-cf-ost] [Cirnoid] [@] - [Архив - Каталог] [Главная]