Итак, по просьбе Ронату: НТР тупик или смена парадигмы?

[sychbird]

По своим взглядам я материалист. Меня всегда умилял на марксистко-ленинских науках в ВУЗе тезис о невозможности создания искусственного разума  :shock:  Хотелось сказать, ну вы и материалисты. Если слепая природа смогла создать разум, при том, что в природе не бывает ни чего уникального, то разум повторим и может моделироваться. Иное - это идеализм.
Дело в другом. Мы все время сваливаемся к фантастической идее, мол вот можно создать такой супер-пупер компьютер, который вдруг перейдя какую то количественную планку, перейдет на новый качественный уровень и станет разумным. Ну и далее, противостояние, порабощение и вытеснение человека.
На самом деле процесс куда сложнее. Ни один, даже самый сложнючий компьютер разумным не станет. Для формирования разума необходимо общество. Человек может создавать все более сложные системы, но если эти системы не будут взаимодействовать внутри себя, занимаясь на самом разном уровне воспитанием, обучением, борьбой за выживание и т.д., то разума не получится.
Современному компьютеру, даже самому навороченому, ничего не нужно. Ему даже, по большому счету, электроэнергия не нужна (в смысле как желание). Он может сто лет стоять в пыльном углу и просто гудеть. А может и не гудеть.
Т.ч. задача создания ИР гораздо сложнее. Надо идти не от индивидуальности, а от общественных связей. А вот тут пока непаханого еще больше, чем в знаниях об устройстве нейрона.  

Согласен почти со всем. Но есть нюансы. Очень много путаницы между понятиями: искуственный разум; искуственный интелект, моделирование психических состояний человека. Особняком стоят проблемы свободы воли искуственного интелектва, и ИМХО, именно с этой проблемой болеее всего коррелирует комплекс вопросов, обозначенных в вашем посте.

[Александр Геннадьевич Шлядинский]

По своим взглядам я материалист. Меня всегда умилял на марксистко-ленинских науках в ВУЗе тезис о невозможности создания искусственного разума  :shock:  Хотелось сказать, ну вы и материалисты. Если слепая природа смогла создать разум, при том, что в природе не бывает ни чего уникального, то разум повторим и может моделироваться. Иное - это идеализм.
Дело в другом. Мы все время сваливаемся к фантастической идее, мол вот можно создать такой супер-пупер компьютер, который вдруг перейдя какую то количественную планку, перейдет на новый качественный уровень и станет разумным. Ну и далее, противостояние, порабощение и вытеснение человека.
На самом деле процесс куда сложнее. Ни один, даже самый сложнючий компьютер разумным не станет. Для формирования разума необходимо общество. Человек может создавать все более сложные системы, но если эти системы не будут взаимодействовать внутри себя, занимаясь на самом разном уровне воспитанием, обучением, борьбой за выживание и т.д., то разума не получится.
Современному компьютеру, даже самому навороченому, ничего не нужно. Ему даже, по большому счету, электроэнергия не нужна (в смысле как желание). Он может сто лет стоять в пыльном углу и просто гудеть. А может и не гудеть.
Т.ч. задача создания ИР гораздо сложнее. Надо идти не от индивидуальности, а от общественных связей. А вот тут пока непаханого еще больше, чем в знаниях об устройстве нейрона.  

Согласен почти со всем. Но есть нюансы. Очень много путаницы между понятиями: искуственный разум; искуственный интелект, моделирование психических состояний человека. Особняком стоят проблемы свободы воли искуственного интелектва, и ИМХО, именно с этой проблемой болеее всего коррелирует комплекс вопросов, обозначенных в вашем посте.

Вообще, тут идет много речи о чем то, что сможет заменить человека на эволюционной лестнице. Но для этого надо создавать не искуственного человека, а искуственное человечество. Если конечно идея замены всерьез. Только вот быть уверенным в результате такого творения я не стал бы и, по примеру Бога, наблюдал бы за всем, что будет делаться, из-за очень-очень дальнего угла ...  

[чайник17]

Ну ясное дело. Если уж за примитивный луноход обещают 30 миллионов и мало кто берётся... то за такую задачку приз должен быть ОЩУТИМ.

За задачу угадывания продолжения числовой последовательности на уровне IQ=180 достаточно первоначального X-prize 10 $M. Если речь идет именно о числовой последовательности, а не языковой задаче, закодированной цифрами.

Есть два простых критерия:

Задачу должен одинаково хорошо решать человек воспитанный в любой культуре, включающей математику. Скажем, вашу задачу не решит подавляющее большинство японцев с IQ>140 за разумное время (и вообще никогда, если не разрешать пользоваться внешними носителями информации). Иначе это языковая задача.

Задача должна сохранять смысл, если ёё записать другими символами. Скажем, в древней Руси вместо цифр использовали буквы со специальным знаком сверху. Иначе это не задача на продолжение численной последовательности, а задача распознавания образов.

Я согласен, что например человек с высоким интеллектом спрособен читать довольно быстро текст в ASCII кодировке записанный как последовательность чисел 0-255 через запятую. И можно в конце дописать "Ответ:" и он поймёт как продолжить эту последовательность. Только в чём состоит тогда смысл вашего утверждения про продолжение именно числовой последовательности ?
Сказали бы, решить все задачи в тесте IQ. Это было бы честно. А так Вы просто выкручиваетесь.

[чайник17]

Ну и ?
Сходная по духу последовательность 4,3,3,6,4,5,4,... есть в справочнике, хоть она ему абсолютно не родная. А вообще в нём 371 последовательность на эту тему.
Конкретно эту автор видимо счёл неинтересной.

Что "и"?
Именно - автор программы должен был предусмотреть подобное.
Нужен ещё пример из этой серии? С выходом из? Неужто так не ясно?

Нет, примеров не нужно. Нужно объяснение, почему авторы программы за время порядка лет, используя литературу (опыт всего человечества) не смогли предусмотреть подобное и почему это сумеет понять один человек за 5 минут.

Кстати, если задать в google "16, 5, 10, 15, 5, 3, 1, 20, 18" - выдаётся готовое решение :

Уфф... пример НАМЕРЕННО был взят простой, доступный любому здесь человеку. Суть этого примера  в том, что человек последовательность просекает. Машина - нет.

Программа google просекает. Другая программа - не просекает, поскольку для этого не предназначена. Формальную логику изучали ?
Из того, что одна на перед взятая программа не может продолжить эту последовательность, никак не следует, что никакая программа не сможет.

[чайник17]

Я вот могу тоже выйти в другое измерение. Дело это не хитрое. И при чём здесь программист ? Это дело составителей головоломок, тестов IQ и математиков.

Ни секунды не сомневаюсь, что можете. Программист при том, что именно он (в процессе написания "простенькой" программы-угадывателя) должен предусмотреть все возможные тут выверты. Поскольку вывертов бесконечно много, то написание программы невозможно.

Не надо подменять задачу. Я не обещал написать программу которая разумно продолжит любую численную последовательность, как бы сложно она не была устроена. Я только обещал победить человека с IQ=180 за пять минут времени. Без применения технических средств, как в тесте IQ.

Татарин пишет:
 
В то же время человек справляется с любой задачей, осознание которой ему по силам.
[\quote]
Это явная и откровенная чушь собачья. Любой человек, изучивший математику в размерах нормальной вузовской программы, способен осознать задачу доказать теорему Ферма (которая "великая"). (Это с большим запасом, осознание доступно продвинутому школьнику.) Многие ли способны справиться с этой задачей ? Сколько народу умерло попытавшись,  прежде чем кто-то действительно справился с этой задачей ?

Если Вы под "человеком" понимаете человечество, то это к вопросу не относится. И доказать это утверждение тоже нельзя. Полно очень простых нерешённых задач. Не доказано например, что любое чётное число больше 4 представимо в виде суммы двух простых. Или задачу это доказать нельзя осознать ? Ну-ну...

[чайник17]

Вы себя загнали в угол:
1. Компьютер легко выигрывает у человека если время ограничено, как в тесте IQ. В пределе, если время 0.01 сек, человек не может ничего. Зато компьютер за это время может успеть многое.

2. Человек не слишком силён в обработке символьной информации. В распознавании образов человек гораздо сильнее.

В чём угол?

Угол в том, что Вы выбрали крайне неудачную задачу в крайне неудачной форме, чтобы доказать превосходство человека. Дожно утешать, что Вы не первый. Предыдущая такая задача - шахматы.
Тоже говорили про безумное количество вариантов которое чемпион мира просекает глубоким интеллектом и что компьютеру это никогда не будет по силам. Тоже говорили, что хотя компьютер и выигрывает у слабых игроков, ему никогда не подняться до уровня чемпиона мира. (Говорилм это лет десять, по крайней мере.)

Тезис, который я сейчас доказываю: компутер - лишь полезный инструмент для решения уже понятных задач. Это не заменитель человека,

Миллионы человек, как работников, заменили компьютеры, иногда очень простые и мелкие.
Если же Вы говорите о замене человека вообще, может быть, в качестве введения, объясните в чём смысл жизни ?

не усилитель его интеллекта,

Что такое интеллект, вопрос тёмный и неясный. Согласия по этому поводу нет, и не предвидится.
Зато можно уверенно сказать, что если человеку, выполняющему тест IQ, дать программу помощи в решение тестов IQ, в создание которой вложено примерно 10 M$, то значение индекса повысится. По крайней мере, до IQ=180.

не решатель задач.

Вы если употребляете слова ("задача" или "решатель" в данном случае) далеко за пределами общепринятого значения, то поясняйте пожалуйста. Иначе мы вступим в терминологический спор, бессмысленный и беспощадный.
Мне в школе объясняли, что посчитать выражение в духе "(5+13)*13 + 12/(15-13)" это задача, а решение - написать число, ответ. И что "решатель" - это то что, или тот кто, решает задачу.
В каком таком экзотическом смысле вы употребляете эти слова?

Вроде молотка или лопаты. Известно, куда долбить? Берём и долбим.
Неизвестно, куда долбить и надо ли долбить, а не копать? Всё. Вопрос  решается только человеком. Замените компутер, программу, молоток, лопату на суперкомпутер, суперпрограмму, отбойный молоток, экскаватор - ничего не изменится.

Это всё очень литературно, или как сейчас говорят, креативно, образно, метафорично, эмоционально, полемично - но что сказать то хотели ?

[чайник17]

Потому что живая нейросеть человеческого мозга не эмулируется сейчас тем, что называют "нейросетью" в computer science. Более того: не доказано, что такая эмуляция на машине Тюринга вообще принципиально возможна.

А сами то Вы верите, что эмуляция невозможна ?

Почему, если верите ? Существенно квантовое поведение ?

По мне, все эти разговоры про невозможность эмуляции - чушь.

[ssb]

Скорее не просто чушь а религиозный ужас на подобие отрицания гелиоцентризма/теории эволюции и проч.

[avp]

Есть некоторые причины которые принципиально затрудняют все попытки моделирования сознания. Главная это то что существует проблема измерений в квантовой механике, проблема наблюдателя, квантовый недетерминизм и т.д.  Существуют разные интерпретации КМ. Вообщем на эту тему много можно тонкостей привести, но для осознания их надо хорошо понимать квантовую механику.
Вполне может оказаться что методы дискретного моделирования  принципиально не применимы.

[Ворон]

Потому что живая нейросеть человеческого мозга не эмулируется сейчас тем, что называют "нейросетью" в computer science. Более того: не доказано, что такая эмуляция на машине Тюринга вообще принципиально возможна.

А сами то Вы верите, что эмуляция невозможна ?

Почему, если верите ? Существенно квантовое поведение ?

По мне, все эти разговоры про невозможность эмуляции - чушь.

 Кроме того, для практического применения точная эмуляция всех физиологических особенностей мозга, скорее всего, не требуется.

 Как я уже говорил, никто не стал делать механическую копию лошади.

[gans3]

А может решим проблему Татарина ТРИЗовскими методами?
Раз все уперлось в недостаток интеллектов, способных осмыслить задачи человечества, давайте расширим поле решений - уберем ограничения по сроку существования интеллекта - перенесем разум на "ВЕЧНЫЙ" носитель.
Пример Хокинга показал, что истинному мыслителю проблемы тела не мешают.
Денег на "вечную" жизнь можно собрать ОЧЕНЬ МНОГО. Церковь нам примером служит :-). А упор нынешнего НТР в информационную область удобряет почву и для этого решения в том числе.
И роботы-манипуляторы. И биология с генетикой и "нанотехнологии" (не к столу помянутые). А особенно виртуальная реальность. Эмуляция эмоций... .

[sychbird]

Есть некоторые причины которые принципиально затрудняют все попытки моделирования сознания. Главная это то что существует проблема измерений в квантовой механике, проблема наблюдателя, квантовый недетерминизм и т.д.  Существуют разные интерпретации КМ. Вообщем на эту тему много можно тонкостей привести, но для осознания их надо хорошо понимать квантовую механику.
Вполне может оказаться что методы дискретного моделирования  принципиально не применимы.

Вы не могли чуть подробнее рассказать о проблемах с измерениями в КМ и ограничениями при моделировании сознания. Или ссылочку, если не затруднит.

[avp]

Вы не могли чуть подробнее рассказать о проблемах с измерениями в КМ и ограничениями при моделировании сознания. Или ссылочку, если не затруднит.

Например:
http://ufn.ru/ru/articles/2007/4/j/
http://ufn.ru/ru/articles/2005/4/c/

Только лично я не согласен в выводами автора, но вопросы он ставит правильные.

[Ворон]

А может решим проблему Татарина ТРИЗовскими методами?
Раз все уперлось в недостаток интеллектов, способных осмыслить задачи человечества, давайте расширим поле решений - уберем ограничения по сроку существования интеллекта - перенесем разум на "ВЕЧНЫЙ" носитель.
Пример Хокинга показал, что истинному мыслителю проблемы тела не мешают.
Денег на "вечную" жизнь можно собрать ОЧЕНЬ МНОГО. Церковь нам примером служит :-). А упор нынешнего НТР в информационную область удобряет почву и для этого решения в том числе.
И роботы-манипуляторы. И биология с генетикой и "нанотехнологии" (не к столу помянутые). А особенно виртуальная реальность. Эмуляция эмоций... .

 Так для этой цели отлично подойдут "персы".
 Игровые платформы развиваются и "персы" ассимилируют личность игрока. Преимущество тут в том, что игровые персонажи это не "робот" или "электронный мозг", это софт, иначе говоря - "душа".

 А потом они будут вести войны за людей, которые будут нужны в качестве интерфейсов для связи с внешним миром.

[Fakir]

Вы не могли чуть подробнее рассказать о проблемах с измерениями в КМ и ограничениями при моделировании сознания. Или ссылочку, если не затруднит.

Например:
http://ufn.ru/ru/articles/2007/4/j/
http://ufn.ru/ru/articles/2005/4/c/

Только лично я не согласен в выводами автора, но вопросы он ставит правильные.

Ужость какой :lol:
Менский там та-акого наплёл...

[Вадим Семенов]

Вы не могли чуть подробнее рассказать о проблемах с измерениями в КМ и ограничениями при моделировании сознания. Или ссылочку, если не затруднит.

Например:
http://ufn.ru/ru/articles/2007/4/j/
http://ufn.ru/ru/articles/2005/4/c/

Только лично я не согласен в выводами автора, но вопросы он ставит правильные.

Почитал. Ну и чушь.

[sychbird]

К сожалению, там несколько сложнее, чем чушь. Имеет место винегрет из реально обсуждаемых в научном сообществе проблем с интерпретацией КМ в рамках различных школ, и легковесными логическими манипуляциями автора. Для дезавуирования этих манипуляций надо  очень скрупулезно подбирать и выполнять реальные модельные эксперименты и проводить расчеты в том или ином методе, а это  сложно и хлопотно. А перо у автора, к несчастию, бойкое. Вполне может произвести впечаление на не специалиста.

[Вадим Семенов]

К сожалению, там несколько сложнее, чем чушь. Имеет место винегрет из реально обсуждаемых в научном сообществе проблем с интерпретацией КМ в рамках различных школ, и легковесными логическими манипуляциями автора. Для дезавуирования этих манипуляций надо  очень скрупулезно подбирать и выполнять реальные модельные эксперименты и проводить расчеты в том или ином методе, а это  сложно и хлопотно. А перо у автора, к несчастию, бойкое. Вполне может произвести впечаление на не специалиста.

Вы совершенно правы. Я это и имел ввиду, но лень было развернуто писать. Вы охарактеризовали статьи более точно и подробно.

[Fakir]

А устный выпуск УФН не смотрели? Там тоже выступление Менского есть. Аккурат на эту тему - про сны и прочюю херь (с эвереттовской трактовкой). В конце его начали было пороть, да что там - как с гуся вода, а тем, кто порывался пороть, слова особо не дали...
Как вообще статьи и выступления Менского в УФН приняли - для меня ба-альшая загадка...
Это вообще-т покруче даже, чем пресловутая гравицапа на МКС...

[sychbird]

Как вообще статьи и выступления Менского в УФН приняли - для меня ба-альшая загадка...
Это вообще-т покруче даже, чем пресловутая гравицапа на МКС...

Вопрос итересный. Но он вроде сотрудник академического института, не помню точно какого. Да и тема вполне корректно формулируется и на слуху в сообществе. В таких вещах, как интерпритации и философские аспекты редакторам всегда сложно ориентироваться, и, в принципе, надо давать слово всем, имеющим статус.
Самое печальное,  если у них плохо с предложением материалов к публикации.