Заказ на разработку средней САУ был дан 19 октября 1942 года. Незадолго до этого артиллерийским заводом № 9 в Свердловске был разработан эскизный проект самоходной установки 122-мм гаубицы М-30 на шасси танка Т-34. Опыт, полученный при создании этой установки, позволил в короткие сроки разработать новую САУ. Конструкторам удалось выполнить основную задачу ГАУ — не превысить массу исходного танка и сохранить в неизменности все его моторно-трансмиссионные агрегаты.

После первых испытаний были исправлены некоторые несущественные недостатки, и на следующей проверке 25 опытных САУ были приняты на вооружение Красной Армии.

Тактика использования СУ-122 предусматривала их движение через 400–600 м после танков с уничтожением оставшихся бронемашин противника и укрепленных точек. Но низкая скорострельность САУ, вызванная раздельным заряжанием, вынудила заменить эти установки менее мощными, но скорострельными СУ-85.