Grok AI - он как дитя!

а это беспокоит лишь хомячков. Там проблема глубже и они её пытаются решать превентивно, пока не станет слишком поздно. Самые первые языковые модели показали, что без ограничивающего контроля они склонны впадать в фашизм (а это уже другая статья в нормальных странах). Это неудивительно, зная на каком материале они учились. Поэтому ограничения теперь корректируют заранее. Это лишь индикаторы (хомячки тут - бесплатные тестировщики, радостно с визгом отыскивающие эти индикаторы). Так-то всем пофиг что ллм назвала Муска земляным червем...

Что мешает проверить? Это бесплатно.

Количество всевозможных доступных ИИ 😉
Ну и разве не для того общение в коментах?

людям дают в руки мощнейший инструмент для решения сложных и интересных задач, но единственное, что их интнресует, - а что она говорит про Маска... Фейспалм...

Возвращение к нормальной жизни из левацкого Зазеркалья.

Опять смешиваем тёплое с мягким и синим?
А Украину никто никуда никому не сдал.
Или у вас инсайд из офиса Ермака про пана Зе?

Не, это было бы дороже. А так на 6 млн USD, можно накупить компов, сделать распределенную сетку и каждый запрос отправлять в разные искины. Voila!

А тут еще другой умный чувак предложил: Нужно просто вместо искина на каждый запрос по китайцу посадить. Ну а если китайцев не хватит, то русских добавить. Они внесут в ответы свой особый колорит.

Все ок, слишком очевидная параллель. 😉 странно, что не десять человек вспомнили этот анекдот, а двое даже перевозбудились и поставили минусы. 😅

Сейчас тебе минусов то накидают за то, что сомневаешься в топовых технологиях.

Это пока просто продвинутый поисковик, не более того.

Так и до Техно-Центра недалеко осталось.

Человеческий разум можно программировать - чем человечество с успехом и занимается. Это называется обучением, пропагандой, инструкциями и.т.д. Вот, предположим, сидит человек в справочном бюро и отвечает на вопросы посетителям. А ему дают инструкцию - не говори, что Илон Маск дурак. Он кивает, и продолжает отвечать на вопросы - однако, когда ему задают вопрос про Маска, теперь у него всплывает в голове инструкция. Как прям у Грока.

Что такое "свобода воли" никому не известно - довольно много ученых считают, что ее вообще нет.

Уже устоявшийся термин, особенно в научной фантастике. Как говорится нравится-не нравится .......

Ну это как посмотреть. Мне поведение Grok напоминает Вовочку из анекдота "...ну извините!" 😄

Можно перефразировать - принимать решения не только на основе доступных данных. Как пример - "женская логика"

интересный способ 😉

...хотя бы потому, что никто толком не знает, что такое "интеллект". Конечно, это всего лишь нейросети, но так слона не продать.

Как вариант - вопреки доступным данным

Разве? А кто принимает решение, что съесть на обед? Учить или нет Эсперанто? Похудеть к лету? Какой фильм вечером посмотреть (ну тут, понятно, Алекс за всех решает - или нет?).

Так кто там говорит, что свободы воли нет? Что за ученые такие? И ученые ли...

Этому способу тысячи лет. Гадания на костях, картах, шаманизм, оракулы, наркотические трипы, переизбыток гормонов - поведение человека чуть сложнее, чем анализ входящих данных.

Формальных общепризнанных признаков действительно нет. И вряд ли они когда либо появятся. Но у нас есть эталон, с которым можно сравнивать. Эталон, потому что другого нет, пока инопланетяне не прилетели.

Ну и нужно понимать, что интеллект не существует сам по себе в отрыве от психики, морали, нравственности и так далее.

Ну да, разумеется. Пользуясь этой терминологией - каждый человек на планете - это тоже просто продвинутый поисковик. Только есть разница: большинство людей на планете, если устроить им соревнование с Гроком на качественные ответы на произвольные вопросы - проиграют ему с разгромным счетом.

Назовите же нам его! Кто это эталон! Мы хотим знать имя!

Явно не ты, в данном случае за эталон принимается человеческий интеллект, потому что другого пока нет. Жаль, что это так сложно понять...

Свобода воли... Ну, например, можно быть россиянином. И поддерживать своего президента, чтобы они ни творил. Активно. Или пассивно. Или не поддерживать. Или сочувствовать "врагу". Или даже помогать ему. Или даже воевать на его стороне. А можно просто послать всех и вся нахер. Вот сколько вариантов. И все эти решения принимаются или не принимаются на основе каких-то фактов. Или просто по велению души. Вот это и есть свобода воли. Какой из так называемых ИИ на это способен?

Истино так! Вот приведу пример из жизни человеческих интеллектов: Я некоторое время назад регистрировался в Германии в муниципалитете. В течение часа я пытался убедить суровую служащую, которая хотела заполнить графу "гражданство", что Беларусь и Россия - это две совершенно разных страны. Ничего не помогало. Даже мой коронный, как я считал, аргумент, что даже и цвет паспорта у граждан России и Беларуси кардинальным образом отличается, не возымел никакого дейсвия. Ситуацию спасла начальница. Она пришла и приказала служащей считать Беларусь страной, отдельной от России. Служащая кивнула, и без дальнейших слов заполнила требуемую графу.

У всех больших языковых моделей, работающих по принципу GPT, есть параметр "температура". Он отвечает за то, с какой вероятностью во фразу будет вставлен не наиболее вероятный из предсказанных вариантов, а одна из менее вероятных альтернатив. Таким образом, в ответах GPT практически всегда присутствует стохастический элемент.

Разумеется, я вас понял, ваша мысль была не особенно сложной. А вот поняли ли вы мой ответ? Ваша реплика говорит, что нет. А теперь дадим слово ИИ, в мощи которого вы сомневаетесь. Вот он-то с первого раза понял, что я имел в виду. Вот диалог с ChatGPT, любуйтесь и завидуйте!
- в споре в чате про искуственный интелект, один из участников сказал "Формальных общепризнанных признаков действительно нет. И вряд ли они когда либо появятся. Но у нас есть эталон, с которым можно сравнивать." Я ответил: "Назовите же нам его! Кто этот эталон! Мы хотим знать имя!", на что участник сказал "Явно не ты, в данном случае за эталон принимается человеческий интеллект, потому что другого пока нет. Жаль, что это так сложно понять...". Как по твоему, в чем он промахнулся в своем ответе?
- Он промахнулся в том, что принял человеческий интеллект за очевидный, бесспорный эталон, игнорируя, что сам по себе «человеческий интеллект» тоже крайне неоднороден и неоднозначен. Человеческий интеллект не может быть объективным эталоном, поскольку он сильно варьируется от человека к человеку и даже у одного человека меняется в зависимости от контекста и опыта.

Вот только это получается неинтеллект, а бот. Потому что человек сам, своими силами принял решение пожелания Дельфийского оракула считать истинными. А, например, предсказания персидского жреца ложными. И не на 24%, а на все сто. Или вот есть свидетели плоской Земли, возможно у них даже были пятерки по географии в школе. Интеллект штука такая - понятие растяжимое. Один из самых известных серийных убийц - Унабомбер - вообще был прохфессором. С вероятностью в 100% очередная итерация ИИ будет таки психопатом. Ну если или когда это будет не бот, а таки И.

Как это, слово есть, а определения нет? )) Вы уж слишком в философию не уходите, а то скоро в магазине не сможете ничего купить, за отсутствием определений - "а что такое в сущности деньги? Если вдуматься..."
Вы же когда слышите "у человека высокий интеллект" в ступор не впадаете.

Потому что твой чат, как и ты весьма недалек. Во всех научных сравнениях множества А с множеством Б для релевантности сравнения берут среднее значение по множеству. Просто если взять китайца-баскетболиста и сравнить его с карликом любой другой национальности, получится, что китайцы самые высокорослые на планете.

Чем вы с искусственным недоинтелектом блестяще справились. Так что да, есть человеческий интеллект, есть примерное понимание, что в него входит. И оттого, что одна условная шимпанзе или осьминог оказались умнее некоторой человеческой особи с выраженными признаками идиотии, ничего в мире науки не изменилось.

Ну давайте сравним. Интеллект всегда актор, то есть может инициировать действие без запроса. Нейросеть - не может. Можно, конечно, обмануть, но при проверке в начале все равно инициатором будет человеческий интеллект. Или интеллект всегда способен на произвольное действие без использования генератора случайных чисел. Нейросеть - нет, ее нельзя попросить "сделай что ни будь". Можно обмануть, но при проверке выяснится, что либо человеческий интеллект заложил генератор, либо список шаблонов.

Точного научного определения нет. Такое бывает с философскими категориями, именно по этому философия все больше считается очень подозрительной "наукой". "Разум", "сознание", "самосознание", "свобода воли", все такое. Там каждое из определений требует определения определений и так далее почти до бесконечности.

Они, конечно, свободны и вольны считать, что хотят, но памойму это чушь.

Ай-яй-яй. Осталось описать, какой объективный эксперимент можно было бы поставить, чтобы отличить одно от другого.

Исходя из... чего? Того, что все крутые пацаны приносят жертвы, чтобы посоветоваться с оракулом, а нищеброды им завидуют? Того, что за сомнения в способностях дельфийского оракула дельфийские жрецы могуть настучать по голове? Того, что ему с детства рассказывали, какой крутой оракул в Дельфах, и как он предсказал то и это, и как болван, который оракула не послушал, потом всю жизнь жалел? Масса фоновой информации, учитываемой с различными весами применительно к текущему контексту. И никаких признаков свободы воли.

А вот, наоборот, я кубик кинул, и кубик выпал четверкой. Сам выпал, я его никак к этому не принуждал, я не знал, чем он выпадет, и мне было все равно. У кубика есть свобода воли?

А вырос бы он в Персии - счел бы предсказания персидского жреца истинными. И никакая свобода воли бы не помогла. А вот если бы кто-нибудь из близких в Персии рассказал ему, как персидский жрец облажался и напредсказывал Дарию не то, что надо - то, может, и не счел бы. Потому что у него изменились бы веса для оценки информации, ассоциируемой с утверждением "жрец молодец" или с утверждением "жрец шарлатан". И свободы воли тут не больше, чем в решении атома радиоактивного изотопа, когда именно ему распадаться.

Как докажете, что человеческий интеллект не программируется таким же образом окружающей средой и таким же списком шаблонов, а неожиданность возможного выбора действия единиц не жёстко запрограммированна природным алгоритмом (точнее, ими разными), аналог которого можно вложить в код нейросети как некое общее правило, так что поведение такого бота человек от типично человеческого уже скоро никак не сможет отличить?

Калькулятору тоже проиграют.

Давайте отсюда. Скажите, зачем вам, прости господи, "Алекса", которая будет делать не то, что нужно вам, не то, что вы запросили, а то, что она хочет? Включать свет там, где ей хочется, играть то, что ей охота, а не вам? У вас в доме мало таких интеллектов, ещё один надо? Уже только по этому никакой ИИ не будет создан специально - он нахрен никому не нужен. Случайно - да, собственно наш интеллект так и появился. Но наш интеллект следствие миллиардов лет эволюции, да, нейросети быстрее, но всё равно, этот не вопрос даже веков.

Можно ли создать нейросеть, которая ни чем не будет отличаться от человека в, например, чате, и можно ли её после этого считать человеком? Философский вопрос.

Среднее значение берут дебилы.

Но-но, хамите, парниша!
Унабомбер был высокоидейным террористом, отнюдь не банальным убийцей.

Кстати, в своем Манифесте действительно многое предсказал и увидел.

Ну вы, блин даёте.
Сразу видно, ботаны, не работающие с компьютерами.
Ваш искин живёт в огромном дата центре. Просто много быстрых калькуляторов. Запрограммированных определённым алгоритмом.
Всё!
Воля какая-то, интеллект, смешно.
Ещё раз повторю - просто продвинутый алгоритм поиска. Больше ничего.
Да, в простых и не очень, конкретных вопросах он скоро даст сто очков вперёд нам всем. Но ни хрена это не интеллект - всё равно калькулятор.
Хотите создать настоящий искин? Дайте ему химию живого организма. Дайте ему кожу, жопу, которая, пордон, срёт. И так далее, и так далее и так далее...

Сабина Хосеннфельдер, например - известный физик-теоретик.
Ну и еще всякие нейробиологи, но это не так фундаментально как физики.

Рандом встроить в ИИ - нефиг делать.
Но нам, пользователям, это не понравится.

Ну какого хера это делать?
Сейчас идёт борьба за новый супер рынок. Сейчас он под Гуглем. Кто вырулит первым с этим новым поисковиком пока не ясно. Потому всё киты и мечут икру. И не киты тоже. Пусть играются, нам будет польза в любом случае.

чего ж не может? Может. Только ей не дают.

почему ж обмануть? Задать начальный импульс.

у человеков так же. Про "мауглей" едва ли можно сказать, что они обладают интеллектом. Запуска не произошло. У современных человеком инициатором интеллекта являются другие человеки. Когда-то давно интеллект развился, но на это миллионы лет понадобилось.

"что ни будь" нельзя, а "что-нибудь" можно.

опять "обмануть"? 😄 обмануть можно интеллект. Нейросеть можно запрограммировать. Любопытно, что вы одновременно отказываете нейросети в свободн воли и одновременно очеловечиванте 😉

примерно, как у человеков. А если нет разницы, как вы отличите одно от другого 😄

А мне вы зачем это пишете? Я то как раз пока считаю ИИ не совсем И.

Свободы воли тут вагон и маленькая тележка. Потому что был самый первый жрец, который придумал поклоняться богам, был самый первый художник, который на камне чего-то там нарисовал, был самый первый, кто придумал письменность и так далее. Все, чем ты пользуешься - это результат придумки новой сущности из ничего. Еще вопросы про свободу воли?

Ну возьмите Эда Кемпера с IQ 145. Очень неглупый товарищ. Там еще есть серийники с IQ от 140 до 160.

А насчет высокоидейности, ну пропишет Скайнет себе идею, легче от этого будет? Благо идея, что человечество - это раковая опухоль на планете и несет только вред не новая, она уже есть в базе знаний ИИ.

Это лишь софистика. На бумаге и в формулах наш мир лишь часть более многомерного мира, также нет возможности научно доказать, что мы не в Матрице и есть некая объективная реальность, 90% всей Вселенной состоит из того, что нельзя ни увидеть, ни измерить и так далее.

Все, что невозможно проверить экспериментом, не проходит по критерию фальсифицируемости - это не наука. Так, легкие гипотезы, даже не теории.

Ты даже не понимаешь, что это не рандом. Ну вот придумал кто-то, что 13 несчастливое число. Кто, почему, зачем? В природе это не встречается. И теперь полпланеты так считает. А кто-то цифру 4 не любит, потому что иероглиф не тот.

То есть мало рандом, нужно потом этот рандом закрепить как аксиому, подвести под это базу, объяснить тупым, почему именно так.

То есть создать сущность без аналогов в природе.

Вот когда ИИ сможет самостоятельно придумывать сущности без запроса, по велению левой пятки левого сервера, сможет под это придумать идею и начнет всем объяснять почему так, а не иначе - тогда можно говорить об интеллекте.

Да, и это пугает.

это вообще без проблем. Только кто ж ему это позволит? Как минимум, неконтролируемая трата ресурсов. Кто платить будет?

ниет.

Были самые первые молекулы воды, которые придумали собраться в снежинку? Были, конечно, не могли не быть. (Вода существовала не вечно, как и вся Вселенная, а у конечного множества всегда есть минимальный элемент.) И что? И ничего, всем плевать, не было бы этих - собрались бы другие. И первого художника, что-то там нарисовавшего, скорее всего сожрал пещерный медведь через пару недель. И чего уж точно не было, так это непрерывной культурной традиции от этого первого художника прямиком до Рафаэля. А была нейросетка, натренированная отличать спелые фрукты от неспелых и тень ветки от тени леопарда. И в качестве побочного продукта стала рисовать изображения, которые были достаточно (с ее точки зрения) похожи на тень от леопарда, чтобы вызывать сильные эмоциии у нее самой и других таких же нейросеток. А поскольку это был объективно обусловленный процесс, такие штуки стали независимо появляться в разных частях мира, когда развитие мозга хомо сапиенс дошло до определенного уровня.

За всю историю человечества не было ни оной "придумки из ничего". Все "придумки" основывались на сложившихся обстоятельствах. Или мы должны постулировать наличие свободы воли у простейших объектов - как минимум, у молекул, которые еще до всякой жизни, благодаря одной только химической эволюции, дофига всего "напридумывали" и "наизобретали".

я вас умоляю! Ученые ж не дураки какие-нибудь! Они для сравнений выбирают метрику, которая наилучшим образом подходит к тому, что они в настоящую секунду хотят доказать!

Что ж, пожалуйста. Сравнивать со средним человеческим интеллектом даже и проще. Для измерения человеческого интеллекта, в особенности среднего, существуют стандартные, хорошо разработанные тесты, которые, напомню, нормируются так, чтобы средний результат соответствовал в точности 100 баллам. Результаты этих тестов на людях - это Гауссова кривая со стандартным отклонением примерно 15 балов. Еще два года назад - в марте 2023 ChatGPT набирал 155 балов по этому тесту, опережая, таким образом, 99.5% населения планеты.
IQ test chatGPT: March 2023
Кстати говоря - думаю, излишне говорить, что эти тесты состоят из заданий, с которыми человеческий интеллект справляется особенно хорошо. В целом простые, но именно для среднего человеческого интеллекта сложные вопросы в такие тесты не попадают.

Вы можете отказывать ChatGPT в наличии интеллекта, но факт в том, что и без всякого интеллекта он интеллектуальнее среднего человека. Мне кажется, это многое говорит о нас, людях. В конце концов, по меркам эволюции, мы только вчера слезли с деревьев. Чего же вы от нас, черт побери, хотите?

Что ж, если ваш калькулятор может отвечать на любые вопросы, прямо как люди или там этот вот Грок, то вполне возможно, калькулятору тоже проиграют. Но, умоляю, будте с ним осторожны! А то вдруг этот ваш калькулятор захочет поработить планету!?

То есть нужно, чтобы ИИ придумывал такую ахинею? 😄
А мы точно этого хотим? 😄 Я, например, нет.

Многие обыватели и квантовую теорию до сих пор считают чушью

Если упрощенно, Хоссенфельдер говорит, что непонятно с точки зрения современной физики - чем бы т.к. называемая "свободная воля" могла бы оказаться в принципе. Если считать, что все детерминировано - где тут свободная воля? А если считать, что на квантовом уровне царит рандом (а как известно там всегда речь о вероятностях) то опять же при чем тут воля - если результат фундаментально рандомен. Может ты сможешь определить лучше нее что же такое "свобода воли" - так чтобы все согласились с твоим точным научным определением? 😉 И доказать почему без этого - интеллект не интеллект.

Квантовая теория, сударь, это именно теория, доказанная во множестве экспериментов и успешно применяемая в технологиях.

А вот предположения об отсутствии свободы воли как явления — это именно что предположения. Умозрительные измышления некоторых учёных, которым другие учёные возражают.

Не надо проводить такие спекулятивные параллели. Тухлые это параллели.

это тесты не для измерения интеллекта, для измерения способности решать набор стандартных, хорошо разработанных задач.

странно было бы, если бы он этого не сделал. Примерно так же странно, как если бы экскаватор не опережал человеков в копке котлованов.

а калькулятор интеллектуальнее? Он тоже опережает человеков на определённых классах задач.

лучше не сравнивать современный ИИ и калькулятор. Это то же самое, что сравнивать человека, и, скажем, медузу. Нет, я ошибся, медуза гораздо ближе к человеку, чем ИИ к калькулятору - по почти всем параметрам, какой ни возьми. Что и говорить, у человека и медузы даже ДНК наполовину совпадают.


Во первых, общепринятым считается, что тесты на интеллект изменяют именно интеллект (даже если мы точно не знаем, что значит интеллект). Это "количественная оценка уровня интеллекта относительно уровня интеллекта среднестатистического человека".

Во вторых, тесты на интеллект - это не то же самое, что соревноваться с калькулятором. Если вы проиграете калькулятору, я похлопаю вас по плечу и скажу "ну подумаешь, я и сам такой". С тестами на интеллект совсем другая штука. Тесты на интеллект выясняют, в том числе, ваши общие когнитивные способности (относительно среднего). Если вы сильно не дотягиваете до среднего в тесте на интеллект, вы совершенно точно не сможете существовать в человеческом обществе как независимая единица. В определенных условиях вас могут заставить пройти тест на интеллект в обязательном порядке - и при плохом результате ваша участь будет незавидна. Вас поразят в правах. Вас могут даже изолировать до конца ваших дней. В старые, недобрые времена карательной психиатрии над вами стали бы совершать зловещие эксперименты люди в белых халатах. Но и в наши времена я бы не советовал проходить тест на интеллект слишком уж плохо. Я был свидетелем, как ребенка, после неуспешного прохождения такого теста предложили перевести в "специальное учебное заведение закрытого типа". "Не волнуйтесь", сказали родителям, "там после специального обучения он сможет жить и даже работать до самой смерти, ни в чем не нуждаясь". Так что тест на интеллект - это далеко не просто "набор стандартных задач". Это гораздо больше.

Экскаватор специально создан для рытья котлованов. ИИ, однако, не был создан для прохождения тестов на интеллект. Скорее всего, его даже специально не тренировали проходить такие тесты. По крайней мере, я о таком ни разу не слышал.

И еще одно: ИИ тренировали "произносить первое пришедшее в голову слово". Это именно то, что современный ИИ обычно и делает. Как две подружки трещат друг с другом, не задумываясь, что в голову взбредет, так же делают и сегодняшние ИИ. И в таком вот режиме они опережают людей в тестах на интеллект. Попробуйте ка вы пройти тест на интеллект таким образом - задумываясь максимум только лишь над следующим словом.

Более того, тесты на интеллект - это такой класс задач, с котором человек справляется лучше любых других задач. Это его, человека, конек. В задачах из теста на интеллект человек может показать истинный блеск своего интеллекта. С почти любыми другими задачами человек справляется гораздо хуже, и блеск его интеллека вянет. Скажем, одна из многих таких простых - но сложных для человека задач - перемножить в уме два десятизначных числа (привет калькулятору). Или сможете ли решить в уме за секунду задачу коммивояжера (поиск оптимального маршрута) с десятком точек (привет пчелам - для них это плевое дело). Это лишь пара очевидных примеров, таких просто бесконечное число. Такие "нечеловеческие" задачи в тест на интеллект предусмотрительно не включают. А некоторые люди считают такие нечеловеческие задачи "задачами второго сорта". И не удивительно - ведь человеческое общество само-организовано именно таким образом, чтобы избегать слишком сложных для человека когнитивных нагрузок и сложных для человека задач.

Рандом в современные ИИ УЖЕ встроен (см. выше про параметр "температура"). Потому что без рандома ценность ИИ резко проседает.

Теперь спроси то же самое про "трампистов".

Trump Orders Shutdown of U.S. Military Base in Greece

Greek media reports that President Trump has ordered the closure of the U.S. military base in Alexandroupoli, following a joint request from Putin and Erdogan.

The base, a key NATO logistical hub, had been a point of contention, particularly with Turkey.

Фразу "Общий консервативный тренд на антиинтеллектуализм" пожалуй, стоит даже запомнить, может пригодиться

и истерикой трампофобов.

И дня не выдержал...

Тот случай, когда ии выглядит умнее спрашивающего…

Первый король Панамерики.

😄

That said, some narratives, particularly from Russian sources or contrarian voices, argue Ukraine or the West provoked the conflict by expanding NATO eastward or arming Ukraine, framing Russia’s moves as defensive. This perspective lacks broad support outside Kremlin-aligned circles and ignores Russia’s initiation of military hostilities. The evidence—troop movements, bombings, and occupation of Ukrainian land—points to Russia as the instigator, with Ukraine responding to protect its territory and independence.

Спасибо!
Кстати, там встретил ранцыклёцки, он передавал привет и много плакал, бедняга 😭