Большие числа: точность расчёта -> Форум на Исходниках.Ру

	Наши проекты: Журнал · Discuz!ML · Wiki · DRKB · Помощь проекту

Здравствуйте, Гость ! [216.73.216.138]

Правила раздела Visual Basic: Общие вопросы

Здесь обсуждаются вопросы по языку Visual Basic 1-6 (а так же по схожим языкам, как, например, PowerBASIC).
Вопросы по Visual Basic .NET (это который входит в состав Visual Studio 2002/2003/2005/2008+, для тех, кто не в курсе) обсуждаются в разделе .NET.

Обратите внимание:
1. Прежде чем начать новую тему или отправить сообщение, убедитесь, что Вы не нарушаете правил форума!
2. Обязательно воспользуйтесь поиском. Возможно, Ваш вопрос уже обсуждали. Полезные ссылки приведены ниже.
3. Темы с просьбой выполнить какую-либо работу за автора в этом разделе не обсуждаются. Студенты, вам сюда: ПОМОЩЬ СТУДЕНТАМ!
4. Используйте теги [ code=vba ] ...текст программы... [ /code ] для выделения текста программы подсветкой.
5. Помните, здесь телепатов нет. Формулируйте свой вопрос максимально грамотно и чётко: Как правильно задавать вопросы
6. Запрещено отвечать в темы месячной (и более) давности, без веских на то причин.

Полезные ссылки:
user posted image

FAQ Сайта

FAQ Раздела user posted image

Кладовка

Наши Исходники user posted image

API-Guide

Поиск по Разделу user posted image

MSDN Library Online user posted image

Google

Ваше мнение о модераторах: user posted image

SCINER,

B.V.

Модераторы: SCINER, B.V.

Новое голосование

Большие числа: точность расчёта

BlackSun

Сообщ. #1 , 09.02.21, 05:23

Profi

Профиль · PM

Поощрения: 1 Dgm

Рейтинг (т): -5

Необходимо вычислить 97^4464/98^4464. Чтобы избежать переполнения, делаю так:

Dim Res As Double, iI2 as Integer

Res = 1

For iI2 = 1 To 4464

Res = Res * (97 / 98)

Debug.Print Res

Res = 1

For iI2 = 1 To 4464 / 48 Step 48

Res = Res * (97 ^ 48 / 98 ^ 48)

Debug.Print Res

Результаты сильно разнятся. Где точнее рез-т?

Сообщение отредактировано: BlackSun - 09.02.21, 05:24

Mikle	Сообщ. #2 , 09.02.21, 05:41
Profi Профиль · PM Поощрения: 2 Dgm Рейтинг (т): 102	Во втором варианте ошибка, должно быть так: For i = 1 To 4464 / 48 Res = Res * (97 ^ 48 / 98 ^ 48) Next Но лучше так: Debug.Print (97 / 98) ^ 4464

BlackSun	Сообщ. #3 , 09.02.21, 06:59
Profi Профиль · PM Поощрения: 1 Dgm Рейтинг (т): -5	Да, вчера пересидел за компом, спс. Сообщение отредактировано: BlackSun - 09.02.21, 07:04

1 пользователей читают эту тему (1 гостей и 0 скрытых пользователей)

0 пользователей:

[ Script execution time: 0,0232 ] [ 15 queries used ] [ Generated: 15.07.25, 14:05 GMT ]