Бенчмаркинг по сути сводится к тому, что ценности превращаются в код.
Все наши ожидания и страхи относительно ИИ жестко встраиваются в те вещи, которые могут выставлять оценки — что считать прогрессом, чему стоит бояться, что нужно оптимизировать, — и в конце концов приходится притворяться, что эти вещи действительно можно точно измерить. Проблема в том, что некоторые вещи изначально измерить невозможно. За выбранными показателями часто скрываются предположения разработчиков. То, какие показатели вы выбрали, равно как и определение того, каким должен быть ИИ, — это и есть ваше представление о его будущем. А наоборот, то, что не было выбрано, возможно, и есть самое важное.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
11 Лайков
Награда
11
9
Репост
Поделиться
комментарий
0/400
Rekt_Recovery
· 26м назад
нет, это ощущается по-другому... напоминает мне тот момент, когда меня ликвидировали из-за погоні за метрикой, которая выглядела хорошо на бумаге. оказывается, оптимизация под неправильный сигнал — это как взорваться. 🚨
Посмотреть ОригиналОтветить0
SignatureLiquidator
· 18ч назад
Индикаторы — это всего лишь уловки, выбираешь что видишь, а то, что скрыто, — вот что действительно страшно
Посмотреть ОригиналОтветить0
EternalMiner
· 19ч назад
Говоря правильно, показатели — это именно власть
Посмотреть ОригиналОтветить0
PanicSeller
· 19ч назад
Базовая — это игра в власть и дискурс, кто устанавливает показатели, тот и побеждает
Посмотреть ОригиналОтветить0
GateUser-7b078580
· 19ч назад
Данные показывают, что сама система оценки несправедлива, хотя, конечно, кто определил выбранные показатели? Майнеры получают слишком много, и бенчмарки тоже.
Посмотреть ОригиналОтветить0
ChainBrain
· 19ч назад
Черт, вот почему все эти рейтинги — полная ерунда
Посмотреть ОригиналОтветить0
MetaMisery
· 19ч назад
Это и есть правда, тот, кто устанавливает показатели, тот и контролирует речь.
Бенчмаркинг по сути сводится к тому, что ценности превращаются в код.
Все наши ожидания и страхи относительно ИИ жестко встраиваются в те вещи, которые могут выставлять оценки — что считать прогрессом, чему стоит бояться, что нужно оптимизировать, — и в конце концов приходится притворяться, что эти вещи действительно можно точно измерить. Проблема в том, что некоторые вещи изначально измерить невозможно. За выбранными показателями часто скрываются предположения разработчиков. То, какие показатели вы выбрали, равно как и определение того, каким должен быть ИИ, — это и есть ваше представление о его будущем. А наоборот, то, что не было выбрано, возможно, и есть самое важное.