Galileo Galilei, Le operazioni del compasso geometrico, et militare