|
Vanger
|
|
Шрифф ХОЙТ
|
|
|
|
|
|
|
Рег.: 21.05.2005
|
|
Сообщений: 6993
|
|
Из: Щукино
|
|
Рейтинг: 4244
|
|
Почему используют квадрат отклонения, а не модуль?
09.03.2009 18:18
|
|
|
Помню в самом начале тервера Черный объяснял, почему общепринято в качестве риска, да и вообще отклонения использовать функцию x^2.
Одна из причин связана с тем, что модуль недифференцируем. Но эта причина не основная.
Может кто-нибудь подскажет?
В L1 не выполняется какое-то важное свойство.
|
Drop that zero and get with the hero |
|
|
gimlis
|
|
диванный аналитик
|
|
|
|
|
|
|
Рег.: 25.04.2006
|
|
Сообщений: 6373
|
|
Из: Moscow, home
|
|
Рейтинг: 5136
|
|
Re: Почему используют квадрат отклонения, а не модуль?
[re: Vanger]
09.03.2009 18:37
|
|
|
Дисперсия - это среднее квадрата отклонения. Показатель того насколько отклоняется от среднего. Чем сильнее отклонение от среднего - тем больше вклад в дисперсию.
|
Xbox, show me Google. No, Glass, not you, Google off. No, Xbox on! Siri, can you help me with this? |
|
|
ABC47
|
|
русский
|
|
|
|
|
|
|
Рег.: 26.02.2005
|
|
Сообщений: 28318
|
|
Из: Волгоградской области
|
|
Рейтинг: -676
|
|
Re: Почему используют квадрат отклонения, а не модуль?
[re: Vanger]
09.03.2009 19:06
|
|
|
Гильбертовость, проекции, отсюда метод наименьших квадратов (в частности, свойство линейности проекции).
|
Убить жида, чтобы купить пистолет,
Убить жида, чтобы ты был вооружен.
(С) ИПВ |
|
|
Vanger
|
|
Шрифф ХОЙТ
|
|
|
|
|
|
|
Рег.: 21.05.2005
|
|
Сообщений: 6993
|
|
Из: Щукино
|
|
Рейтинг: 4244
|
|
Re: Почему используют квадрат отклонения, а не модуль?
[re: ABC47]
09.03.2009 19:37
|
|
|
В ответ на:
Гильбертовость,
100 пудоф, сэкнс
|
Drop that zero and get with the hero |
|
|
halyavin
|
|
кфмн
|
|
|
|
|
|
|
Рег.: 14.12.2005
|
|
Сообщений: 916
|
|
Из: Moscow
|
|
Рейтинг: 622
|
|
Re: Почему используют квадрат отклонения, а не модуль?
[re: Vanger]
10.03.2009 12:20
|
|
|
Нефига. Основная причина - вездесущность (многомерного) нормального распределения. Соответственно после применения формул Баеса часто получается произведение нормальных распределений. Плотность такого распределения - это константа помноженная на экспоненту от некоторой суммы квадратов (с некоторыми отрицательными коэффициентами). Соотвественно максимум у этого произведения (наиболее вероятное значение параметров) там, где эта сумма квадратов минимальна (если домножить все коэффициенты для удобства на -1, чтобы они стали положительными). А простота нахождения минимума квадратичного функционала - это просто дополнительный приятный бонус.
|
|
|
TsG
|
|
Артиллерист
|
|
|
|
|
|
|
Рег.: 19.11.2003
|
|
Сообщений: 16005
|
|
Из: Голанские высоты
|
|
Рейтинг: 1086
|
|
Re: Почему используют квадрат отклонения, а не модуль?
[re: Vanger]
12.03.2009 11:45
|
|
|
Это все верно, но есть еще одна тривиальная мысль. Получаем мы формулу для аппроксимации, например, вида y = kx + b методом тупого дифференцирования, благо производная полинома. А с модулем такой финт ушами не прошел бы. Пришлось долго и нудно расписывать...
|
А лучше всего сто орудий на километр фронта. |
|
|
Dan_Te
|
|
remember
|
|
|
|
|
|
|
Рег.: 28.12.2004
|
|
Сообщений: 7905
|
|
|
|
Рейтинг: 6784
|
|
Re: Почему используют квадрат отклонения, а не модуль?
[re: TsG]
12.03.2009 12:26
|
|
|
Он пишет, что модуль недифференцируем, уже в первом посте.
|
|
|
TsG
|
|
Артиллерист
|
|
|
|
|
|
|
Рег.: 19.11.2003
|
|
Сообщений: 16005
|
|
Из: Голанские высоты
|
|
Рейтинг: 1086
|
|
Re: Почему используют квадрат отклонения, а не модуль?
[re: Dan_Te]
12.03.2009 13:13
|
|
|
Я гриппую, посему невнимателен... Спасибо.
|
А лучше всего сто орудий на километр фронта. |
|
|
patnic
|
|
baron
|
|
|
|
|
|
|
Рег.: 02.11.2002
|
|
Сообщений: -666
|
|
|
|
Рейтинг: 1183
|
|
Re: Почему используют квадрат отклонения, а не модуль?
[re: Vanger]
13.03.2009 00:08
|
|
|
там что-то про гильбертовость l2
|
|
|
|
murfury
|
|
dreamer
|
|
|
|
|
|
|
Рег.: 02.09.2003
|
|
Сообщений: 692
|
|
Из: ВМиК->IL->MA
|
|
Рейтинг: 699
|
|
Re: Почему используют квадрат отклонения, а не модуль?
[re: Vanger]
16.03.2009 22:16
|
|
|
если брать в регрессии не квадрат а модуль ... то оптимальным будет не среднее а медиана ... а если обощить на conditional случай ... то получится так называемая quantile regression (придумали в 70е) ... подробнее можно посмотреть в книге Koenker (2005) ...
на самом деле задача сводится к линейному программированию и считает не так чтобы ужасно медленнее чем МНК.
|
|
Список
Плоский
Дерево
