У Вас получился правильный результат.
Если конечно Вы спутали кбит/с и кбайт/с.
Почему я так думаю? Да просто все (что я пользуюсь, точно) программы выдают скорость в кбайтах/с. Торрент, например. Тогда:
Смотрите пример правила для исходящего интерфейса:
tc class add dev $DEV_OUT parent 1:1 classid 1:23 htb rate $[$RATE_OUT/$NNN]kbit ceil $[$RATE_OUT/2]kbit prio 5

Команда ceil $[$RATE_OUT/2]kbit даст пользователю только половину от свободной полосы канала. И все! Т.е. с Ваших 590 получем (грубо) 59кБайт/с, делим на 2, получаем 29. Т.е. предел у пользователя 29. Но ведь он не один! Вот и получается, 10-20.
А своей командой RATE_OUT=5000 Вы попросту отключили шейпер, вернее урезали его функцию взаимодействия с провайдером. Ведь нужно не только делить полосу, но и не допустить у провайдера очереди - в этом и есть смысл назначения RATE_OUT ниже реальной пропускной способности. Иначе - тормоза по выходу (а в результате и по входу).
Т.е. хотите отдать весь свободный канал - уберите двойку, но не завышайте скорость!

По последнеме вопросу, разжуйте, пожалуйста на конкретном примере с указанием адресов и условий :-)