[Метод наименьших квадратов]Приглашаю подумать

[ors_archangel]

prografix
Сумма отклонений - это функция ошибки аппроксимации. Ни в коем случае её элементы не есть выявленный шум, я всё-таки на этом настаиваю. Это лишь оцнека ошибки приближения - расстояние между функциями, вообще-то. Евклидово расстояние способствует равноценному приближению ко всем точкам - без потери свойств "фильтрации" шума. Т.к., чтобы компенсировать, допустим отклонение в некоторой точке x_k, не достаточно ликвидировать просто суммарное отклонение в нескольких других точках, что позваляет линейная сумма модулей.
Т.е. квадрат направляет минимизацию в первую очередь на очень плохие точки, а не аппроксимирует функцию точне там, где отклонение больше, как ты говоришь, говоря о весе, равном отклонению, ведь когда отклонение станет меньше 1, то "вес" данной точки будет уже уменьшаться. Я хочу сказать, что "вес" не означает, что данная точка будет аппроксимирована точнее, он лишь указывает, насколька аппроксимация в данной точке далека от истины, и алгоритм улучшения аппроксимации - минимизации функции её ошибки - никак ведь на уровне отдельных точек вообще-то не работает: минимум глобален. И по старой же причине я не согласен, что если ∑|Yi - f(Xi)|*|Yi - f(Xi)| больше, то шум в данной точке больше. См. мой пост №28, пока не вижу ему опровержния.

fse

Цитата fse @ 31.03.07, 12:53

Если, вобщем добью, то выложу следующим постом. Вообще, надо кому????

Интересно было бы посмотреть

[fse]

Вобщем вот.... Реализовал в одной проге МНК2 и МНК4.
Только функцию я взял для апроксимации прямой, но без её смещения, т.е. высчитывается только один коэффициент: тангенс угла наклона прямой, проходящей через т. (0, 0). С коэффициентом смещения сделать так вот быстренько нереально, т.к. при возведении в куб после дифференцирования получается очень большая и некрасивая формула.
Да, и что ещё нужно отметить! При МНК-4 при апроксимации самой элементарной прямой y = kx уже возможно несколько решений, 3, если не ошибаюсь, т.к. там необходимо в конце вывода коэффициента режить кубическое уравнение. Я не стал загоняться его решением, а вычислил самый первый корень дихотомией.
Точнее ли стала апроксимация? На мой взгляд ХЗ, оба оболденно ищут, но МНК-4 похоже что поправдоподобнее малость.
Выкладываю получившуюся прогу... Рассудите сами.
p.s. Исходники выкладывать не буду, т.к. нужно вместе с ними выкладывать компонент и математические библиотеки, некогда написанные.

p.p.s. ПОГОДИТЕ КА! А как тут вложить файл, можно ведь? В упор не вижу!!!:)

Добавлено 31.03.07, 14:43
Хе-хе:)
Держите так:)
http://slil.ru/24164551

[prografix]

Поясню свою мысль на простом примере. Пусть f - константа.
Делаем несколько измерений и получаем в n случаях значение а ( правильно ) и в одном случае значение b ( неправильно ).
Теперь будем получать оценку f при помощи минимизации ∑|Yi - f|^k.
Для k = 1 получим f = a ( медиана )
Для k = 2 получим f = (n*a+b)/(n+1) ( среднее арифметическое )
Для k = бесконечность получим f = (a+b)/2
Отсюда видно, что чем больше k, тем больше влияние помех.