Имеем исходные данные: по широте (Latitude) 1 градус равен 110.574 км, по долготе (Longitude) 1 градус равен 111.32 км, следовательно, чтобы определить в каких диапазонах должны быть координаты геоточки входящей в квадрат - нужно сторону квадрата поделить на соответствующее значение по широте и долготе. Например:

Заданный квадрат со стороной 5 км

Исходная точка (центр) имеет координату 55.751635, 37.618900

половина длины квадрата в радианах по широте: (5 / 110.574) / 2 = 0,022609293

половина высоты квадрата в радианах по долготе: (5 / 111.32) / 2 = 0,022457779

Получается, что в заданный квадрат будут входить все геоточки, у которых разница с заданным центром находится в диапазоне ±0,022609293 (по широте) и ±0,022457779 (по долготе).