Туда и обратно (Dec-Hex-Dec). Перевести целое десятичное число в двузначные шестнадцатеричные, потом в дробь от 0 до 1

@AmbA · Регистрация: 09.06.2017

Студворк — интернет-сервис помощи студентам

Увы мне, учился давно и понемногу. Прошу не пренебречь простым вопросом, для меня он вполне себе камень преткновения.

Надо перевести целое десятичное число в двузначные шестнадцатеричные, потом в дробь от 0 до 1:

Code
1
2
3
4
5
6
7
8
9
LUA
function intDecToFloatDec(dec)
--переводит целое десятичное в числа от 0 до 1 для подстановки в Lua-RGB
    hex = string.format("0X%x", dec)
    local r = (math.floor(hex / (256 * 256))) / 256  --math.floor() округляет до ближайшего целого в меньшую сторону
    local g = (math.floor((hex / 256) % 256)) / 256
    local b = (hex % 256) / 256
    return r, g, b
end

, потом прочитать это как 0xFFFFFF, и перевести в исходное целое десятичное.

Code
1
2
3
4
5
AutoHotKey
l3 := Mod(ColorL, 256) ;Mod(Dividend, Divisor): возвращает остаток от деления Dividend на Divisor
l2 := Mod((ColorL - l3), (256*256))
l1 := Mod((ColorL - l3 - l2), (256*256*256))
L := l1+l2+l3

К сожалению, результат оставляет желать лучшего:
Исходные числа:
102
153
132
116
125
246
20
1097
109
Результат:
102
152
131
116
125
245
20
1097
109

Как сделать хорошо?

@FFPowerMan · 17.07.2024, 17:46

Задание точнее поставьте. Если нужно перевести десятичное число в двоичное(или любое другое основание), то делаются всего 2 оператора:
1) n Mod 2
2) Reverse.

@AmbA · 18.07.2024, 04:53 **[ТС]**

15 минут писал уточнение, и перезагрузка сервера его уничтожила. Соберусь с духом - напишу заново. Пока такой вопрос:
Внёс в первый скрипт коррекцию вида

Code
1
2
math.floor(value + 0.5)
-- math.floor() округляет до ближайшего целого в меньшую сторону

Теперь на текущих числах я получаю правильные значения. Насколько это надёжно? Не вылезет ошибка с другими исходными числами?

Новые блоги и статьи Все статьи Все блоги /
Создаем RESTful API на Golang с Fiber golander 04.06.2025 Я перепробовал десятки фреймворков для создания RESTful API за последние годы, и когда впервые столкнулся с Fiber, понял, что это совсем другой уровень. Нет, я не собираюсь рассказывать сказки о. . .	Как работать с куки в ASP.NET Core UnmanagedCoder 04.06.2025 Когда я впервые начал работать с куки в ASP. NET Core, меня поразило, насколько отличается работа с ними от классического ASP. NET. В Core все стало более декомпозированным - больше нет удобного. . .	Рисование коллайдеров физического движка Box2D-WASM v3 на Three.js 8Observer8 04.06.2025 Erin Catto (автор Box2D) переписал с нуля Box2D v2 с С++ на Си и появилась версия Box2D v3. Birch-san собрал Box2D v3 в WebAssembly (WASM), чтобы можно было использовать Box2D v3 на JavaScript. В. . .	Worker Threads и многопоточность в Node.js Reangularity 03.06.2025 Если вы когда-нибудь посещали собеседования на позицию Node. js разработчика, почти наверняка слышали заезженную фразу: "Node. js - однопоточная платформа". Звучит как неоспоримый факт, который. . .	Event-Driven CQRS на C# с паттерном Outbox stackOverflow 03.06.2025 В традиционной модели происходит примерно следующее: вы получаете команду, обрабатываете ее, сохраняете результат в базу данных и затем пытаетесь опубликовать событие в брокер сообщений. Но что если. . .
OwenLogic: перенос сетевых переменных в панель Weintek (EasyBuilder Pro) ФедосеевПавел 03.06.2025 ВВЕДЕНИЕ ПЕРЕД ЭКСПЕРИМЕНТАМИ - СОЗДАЙТЕ РЕЗЕРВНЫЕ КОПИИ ПРОЕКТОВ На момент написания статьи (02 июня 2025 г. ) самыми актуальными версиями ПО являются: OwenLogic v. 2. 10. 366 EasyBuilder Pro. . .	Dev-c++5.11 Покорение вершины russiannick 02.06.2025 С утра преследовала одна мысль - вот бы выучить С++. Сказано-сделано. Окончив смену, скачал в интернете бестселлер Дэвиса Dev-C++ для чайников. Книга оказалась интересной и я скачал среду, на примере. . .	Тестирование Pull Request в Kubernetes с GitHub Actions и GKE Mr. Docker 02.06.2025 Мы все знаем, что тестирование на локальной машине или в изолированном CI-окружении — это не совсем то же самое, что тестирование в реальном кластере Kubernetes. Контекстно-зависимые ошибки, проблемы. . .	Оптимизация CMake для ускорения сборки bytestream 02.06.2025 Вы когда-нибудь ловили себя на мысле, что пока ваш проект компилируется, можно успеть сварить кофе, прочитать главу книги или даже сбегать в соседний офис? Если да, то добро пожаловать в клуб. . .	JS String.prototype.localeCompare() mr_dramm 02.06.2025 скопировано из этой темы чтобы не потерялось. localeCompare без указания локали для сравнения строк под капотом использует Intl. Collator , который работает согласно Unicode Collation Algorithm. . .

@FFPowerMan 2143 / 1223 / 506 Регистрация: 11.10.2018 Сообщений: 6,181
	17.07.2024, 17:46
	Задание точнее поставьте. Если нужно перевести десятичное число в двоичное(или любое другое основание), то делаются всего 2 оператора: 1) n Mod 2 2) Reverse. 0