Датой основания Новохоперска считается 1710 года, когда по указу Петра I на месте Пристанского городка на реке Хопер была построена крепость. В 1779 году Новохоперск стал уездным городом Тамбовского наместничества, через три года передан Саратовскому наместничеству, а в 1802 году стал уездным городом Воронежской губернии.

Герб уездного города Новохоперска Тамбовского наместничества утвержден 16 августа 1781 года:

"В верхней части щита герб Тамбовский: на лазуревом поле улий, а над ним три золотые пчелы, земля зеленая. В нижней части щита - река в зеленом поле, на которой подписано "Новый Хопер"

Использованы материалы статьи О.Рево в журнале "Наука и жизнь", №7, 1986.

В 1859 году составлен проект герба Новохоперска: "В зеленом щите серебряная волнообразная перевязь влево. В вольной части герб Воронежской губернии. Щит увенчан серебряной стенчатой короной и окружен золотыми колосьями, соединенными Александровскою лентою".

Материалы геральдического архива В.Маркова (Санкт-Петербург), рисунок реконструирован по значку

Новый герб города утвержден исполкомом городского Совета в 1972 году. Автор герба - Михаил Федорович Трубников.

В геральдическом щите, имеющем зубцы на верхнем крае, изображены на синем поле вверху: колосья, часть шестерни, зеленый кленовый лист и дата "1710"; внизу на красном поле - золотые красноармейская буденновка и две скрещенные шашки.

Использованы материалы книги Н.А.Соболевой "Гербы городов России"