Медаль "За службу" имеет форму правильного круга диаметром 32 мм.
На лицевой стороне медали по окружности расположен венок из лавровых ветвей, переходящий в основании в архитектурный завиток. В центральной части медали помещено изображение "столпа Закона", наложенное на два перекрещенных свитка.
На оборотной стороне медали надписи: в верхней части по окружности -"Министерство юстиции", в центре - "За службу" и цифра "XX" или "XV" или "X" (для медали "За службу" I, II, III степени соответственно), в нижней части по окружности - "Российской Федерации".
Все изображения и надписи на медали рельефные.
Лицевая и оборотная сторона медали по внешнему контуру имеет ранты.
Медаль "За службу" I степени изготавливается из латуни.
Медаль "За службу" II степени изготавливается из нейзильбера.
Медаль "За службу" III степени изготавливается из томпака.
Медаль "За службу" при помощи ушка и кольца соединяется с пятиугольной колодкой, обтянутой шелковой муаровой лентой темно-зеленого цвета шириной 24 мм.
Посередине ленты колодки медали "За службу" I степени три полоски: две желтые шириной 1 мм и одна фиолетовая шириной 2 мм. По краям ленты три полоски: две белые шириной 1,5 мм и одна темно-зеленая шириной 1 мм.
Посередине ленты колодки медали "За службу" II степени пять полосок: три желтые шириной 1 мм и две фиолетовые шириной 2 мм. По краям ленты три полоски: две белые шириной 1,5 мм и одна темно-зеленая шириной 1 мм.
Посередине ленты колодки медали "За службу" III степени семь полосок: четыре желтые шириной 1 мм и три фиолетовые шириной 2 мм. По краям ленты три полоски: две белые шириной 1,5 мм и одна темно-зеленая шириной 1 мм.
Колодка с медалью при помощи булавки крепится к одежде.