Лучшие 86 цитат Элиэзер Юдковски на MyQuotes

Жгучий зуд познания выше, чем торжественный обет преследовать истину. Чтобы почувствовать жгучий зуд любопытства, нужно, чтобы вы были невежественны и желали отказаться от своего невежества.

В конце концов, если бы у вас был полный процесс принятия решения, вы могли бы запустить его как ИИ, и я бы сейчас его кодировал.

"И однажды, когда потомки человечества распространятся от звезды к звезде, они не будут рассказывать детям об истории Древней Земли, пока они не станут достаточно взрослыми, чтобы вынести ее; а когда они узнают, они будут плакать, чтобы услышать это когда-либо существовала такая вещь, как Смерть!

Между предвзятым предвзятым отношением, ложной причинностью, положительным предубеждением, привязкой / заправкой и т. Д., И прежде всего ужасным уклоном подтверждения, как только идея приходит в голову, она, вероятно, останется там.

Мальчикам, - сказала Гермиона Грейнджер, - нельзя позволять любить девушек, не спросив их сначала! Это верно по-разному, особенно когда речь идет о приклеивании людей к потолку!

В общем и целом, ответ на вопрос« Как выживают крупные институты? »-« Они этого не делают! ». Подавляющее большинство крупных современных институтов - некоторые из них чрезвычайно важны для функционирования нашей сложной цивилизации - просто не существовать в первую очередь .

Безусловно, самая большая опасность искусственного интеллекта состоит в том, что люди слишком рано приходят к выводу, что понимают его.

Правила Крокера не давали вам права говорить что-либо оскорбительное, но другие люди могли говорить вам потенциально оскорбительные вещи, и вы должны были не обижаться. Это было удивительно трудно объяснить людям; многие люди читали осторожное объяснение и услышать: «Правила Крокера означают, что вы можете говорить оскорбительные вещи другим людям.

Не уклоняйся от переживаний, которые могут разрушить твои убеждения. Мысль, которую ты не можешь думать, контролирует тебя больше, чем мысли, которые ты произносишь вслух. Смирись с испытаниями и испытай себя в огне. Откажись от эмоций, основанных на ошибочном убеждении, и постарайся чувствовать полностью ту эмоцию, которая соответствует фактам .

- Каждый раз, когда кто-то кричит в молитве, а я не могу ответить, я чувствую себя виноватым из-за того, что не являюсь Богом. - Это не звучит хорошо. - Я понимаю, что у меня есть проблема, и я знаю, что мне нужно делать чтобы решить это, хорошо? Я работаю над этим. Конечно, Гарри не сказал, каково было решение. Очевидно, решение состояло в том, чтобы поторопиться и стать Богом .

Экзистенциальная депрессия всегда раздражала меня; это одна из самых бессмысленных форм страданий в мире.

Я когда-нибудь замечал, как совершенно нелепо просить старшеклассников решить, что они хотят делать с остальной частью их жизни, и почти не оказывать им никакой поддержки в этом? двадцать различных рабочих мест, а затем еще одну неделю в трех лучших из них, с графиками зарплат и прогнозами и вероятностями окончания этого предмета с учетом их результатов тестов? Тем более, учитывая, что это центральный вопрос распределения для всей экономики?

Он встречал других вундеркиндов на математических соревнованиях. На самом деле его сильно беспокоили конкуренты, которые, вероятно, буквально целый день занимались математическими задачами и которые никогда не читали научно-фантастическую книгу и которые сгорели бы до полового созревания. и никогда ничего не значат в их будущих жизнях, потому что они только практиковали известные методы вместо того, чтобы учиться мыслить творчески

Я работаю научным сотрудником в Научно-исследовательском институте машинного интеллекта, небольшой 501 (c) (3) общественной благотворительной организации, поддерживаемой главным образом индивидуальными пожертвованиями.

Я испытываю желание сказать, что докторская степень в области искусственного интеллекта была бы негативно полезна, но я не из тех, кто может противостоять чьей-то безрассудной молодости - только потому, что вы получили докторскую степень в области искусственного интеллекта, не означает, что вы должны быть окончательно дисквалифицированы.

«Я задаю фундаментальный вопрос рациональности: почему ты веришь в то, во что веришь?

Если бы крионика была мошенничеством, ее маркетинг был бы намного лучше и был бы намного популярнее.

Если бы драконы были обычным явлением, и вы могли бы посмотреть на одного из них в зоопарке, - но зебры были редким легендарным существом, которое, наконец, было решено стать мифическим - тогда есть определенный тип людей, которые будут игнорировать драконов, которые никогда не потрудятся Посмотрите на драконов и гонитесь за слухами о зебрах. Трава всегда зеленее с другой стороны реальности. Что скорее настраивает нас на вечное разочарование, а? Если мы не можем радоваться просто реальному, наша жизнь будет пустой верно.

Если я учу глубоким вещам, то считаю важным, чтобы люди чувствовали, что они изучают глубокие вещи, потому что в противном случае у них все еще будет дыра в« глубоких истинах », которые необходимо заполнить, и они уйдут и наполнят свои головы полной чепухой, написанной в более приятном стиле .

Если люди бьют по голове бейсбольной битой каждую неделю, довольно скоро они придумают причины, по которым ударом по голове бейсбольной битой было бы хорошо.

Если железо горячее, я хочу верить, что оно горячее, а если оно прохладное, я хочу верить, что оно классное.

Если вы одинаково хорошо объясняете какой-либо результат, у вас нет знаний.

Если бы вы протянули [персонаж] стакан, который был заполнен на 90%, он сказал бы вам, что 10% пустой части доказали, что никто по-настоящему не заботился о воде.

Если ты крикостинировал, откладывал подписку на крионику" на потом ", не думай, что ты" до сих пор с этим справился ". Помнишь, многие миры? Существуют разветвленные версии тебя, которые умирает от рака и не подписан на крионику, и им уже слишком поздно получать страховку жизни .

Если вы хотите создать рекурсивно самосовершенствующийся ИИ, пройти через миллиард последовательных само-модификаций, стать намного умнее вас и не умереть, вам нужно работать по довольно точному стандарту.

Если вы хотите максимизировать ожидаемую полезность, старайтесь спасти мир и будущее межгалактической цивилизации, а не жертвовать свои деньги обществу для лечения редких болезней и милых щенков.

Я продолжаю пытаться объяснить людям, что архетип интеллекта - это не Дастин Хоффман в« Человеке дождя »; это человек, точка. Это мягкие вещи, которые взрываются в вакууме, оставляя следы на их луне .

Мне интересно, есть ли заклинание, чтобы молния вспыхивала на заднем плане, когда я принимаю зловещее решение?

Интеллект является источником технологий. Если мы сможем использовать технологию для улучшения интеллекта, это замкнет цикл и потенциально создаст цикл положительной обратной связи.

[...] умные люди имеют лишь определенное количество времени (измеряемое субъективным временем, затрачиваемым на размышления о религии), чтобы стать атеистами. После определенного момента, если вы умны, потратили время на обдумывание и защиту своей религии и до сих пор не избежали влияния эпистемологии Темной стороны, внутренняя часть вашего ума превращается в картину Эшера.

Я вижу мало надежды на демократию как на эффективную форму правления, но я восхищаюсь поэзией того, как ее жертвы замешаны в собственном уничтожении.

Тройной крайний запрет запрещать отвечать на критику насилием. В человеческом искусстве рационального мышления очень мало предписаний, в которых нет положений« и »,« но »,« побег »или« экранирование ». Это один из них. Плохой аргумент получает контраргумент. Не получает пули. Никогда. Никогда, никогда, никогда.

Пусть ветер улик трясет тебя, словно ты лист, без твоего руководства. Остерегайтесь, чтобы вы не сражались с арьергардным отступлением против улик, неохотно уступая каждую ногу, только когда их заставили, чувствуя себя обманутыми. Сдайся правде так быстро, как сможешь.

Это единственная причина, по которой кто-нибудь купил бы аптечку? Профессор МакГонагалл, не поймите это неправильно, но с какими сумасшедшими детьми вы привыкли иметь дело? весь юношеский героизм и хорошее настроение.

Лакмусовый тест. Если вы не можете описать закон сравнительного преимущества Рикардо и объяснить, почему люди находят его нелогичным, вы недостаточно знаете об экономике, чтобы критиковать или восхвалять «капитализм», потому что вы не знаете, что именно. другие люди имеют в виду, когда они используют это слово.

Одинокому инакомыслию не хочется ходить в школу в черном. Такое ощущение, что ты ходишь в школу в костюме клоуна.

Многие встали на ноги и столкнулись с темнотой, когда это касается их. Меньше приходите за тьмой и заставляйте ее противостоять им.

Может быть, вы просто не можете защитить людей от определенных специализированных типов глупости с любым нормальным регулированием, и правильный ответ - отказаться от высоких социальных затрат, связанных с ненадлежащей защитой людей от самих себя при определенных обстоятельствах.

акон безумной науки @ Мура: каждые восемнадцать месяцев минимальный IQ, необходимый для уничтожения мира, падает на одну точку.

Большинство магглов жили в мире, определяемом пределами того, что можно делать с автомобилями и телефонами. Хотя маггловская физика явно допускала такие возможности, как молекулярная нанотехнология или процесс Пенроуза, для извлечения энергии из черных дыр, большинство людей хранили это в той же части своего мозга, где хранились сказки и учебники истории, далеко от их личных реальностей: давным-давно и далеко, очень давно.

Мой опыт показывает, что журналисты сообщают об алгоритме ближайшего клише, который крайне неинформативен, поскольку клише не так много, правда часто весьма далека от любого клише, и единственное, что вы можете сделать вывод о реальном событии, это то, что был самым близким клише. Просто невозможно оценить явную ужасность сообщений основных средств массовой информации, пока кто-то на самом деле не сообщил о вас. Это намного хуже, чем вы думаете.

Не каждое изменение - это улучшение, но каждое улучшение - это изменение; Вы не можете делать что-то ЛУЧШЕ, если не можете сделать это РАЗНОЕ, вы должны позволить себе делать лучше, чем другие люди!

Наше связное экстраполированное желание - это наше желание, если бы мы знали больше, думали быстрее, больше людей, которых мы хотели бы видеть, росли вместе; где экстраполяция сходится, а не расходится, где наши желания скорее связаны, чем мешают; экстраполируется, как мы хотим, что экстраполируется, интерпретируется так, как мы хотим, чтобы интерпретировали.

Часть рационалистического этоса эмоционально привязывает себя к абсолютно законной редукционистской вселенной - вселенной, не содержащей онтологически базовых ментальных вещей, таких как души или магия, и направляет всю вашу надежду и всю вашу заботу в эту просто реальную вселенную и ее возможности без разочарования. ,

Физиологически взрослые люди не должны проводить дополнительные 10 лет в школьной системе; их мозги отображают это на «мне присвоен низкий племенной статус». И поэтому, конечно, они замышляют восстание - обвиняют существующих племенных повелителей в заговоре коррупции, возможно, чтобы отделить их собственное маленькое племя в саванне, не понимая, что это невозможно в современном мире.

Рациональность - это главный лайфхак, который определяет, какие другие лайфхаки использовать.

Реальность существовала задолго до того, как ты появился. Не называйте это отвратительными именами, такими как «причудливые»; или "невероятно". Вселенная распространяла сложные амплитуды через конфигурационное пространство в течение десяти миллиардов лет до того, как на Земле появилась жизнь. Квантовая физика не является "странной". Ты странный.

Помните, что если вы добились успеха во всем, что вы пытаетесь сделать в жизни, вы живете ниже своего полного потенциала, и вам следует заняться более сложными или дерзкими делами.

У науки есть герои, но нет богов. Великие Имена не являются нашими начальниками или даже нашими соперниками, они пройдены вехами на нашей дороге; и самая важная веха - герой, который еще впереди.

Со времени появления Homo Sapiens люди были умнее всех вокруг. Но очень скоро - в историческом масштабе, то есть - мы можем ожидать, что технологии сломают верхний предел интеллекта, который удерживался в течение последних нескольких десятков тысяч лет.