Эта боевая машина была разработана конструкторским бюро Ленинградского Кировского Завода (ЛКЗ) в январе 1940 года в связи с острой необходимостью Рабоче-Крестьянской Красной Армии (РККА) в хорошо защищённом танке с мощным вооружением для борьбы с фортификациями линии Маннергейма во время советско-финской войны 1939−1940 г. Месяц спустя КВ-2 был официально принят на вооружение РККА и серийно выпускался на ЛКЗ до октября 1941 года включительно. Причиной снятия с производства послужили сразу несколько факторов: материалоёмкость и низкая надёжность танка, временное отсутствие надобности РККА в такого рода машинах, эвакуация ЛКЗ и общее прекращение выпуска танков в Ленинграде после замыкания блокадного кольца.

Броневой корпус танка сваривался из катаных броневых плит толщиной 75, 40, 30 и 20 мм Броневая защита равнопрочная (бронеплиты с толщиной отличной от 75 мм использовались только для горизонтального бронирования машины), противоснарядная. Броневые плиты лобовой части машины устанавливались под рациональными углами наклона. Башня серийных КВ-2 выпускалась в двух вариантах: первоначальная установка МТ-1 и более поздняя «пониженная» башня меньшей массы. Внешне эти два типа башен легко различимы по их лобовой оконечности: установка МТ-1 имеет наклонные скуловые бронеплиты, а «пониженный» вариант — вертикальные. Оба варианта башен сваривались из катаных бронеплит, их толщина брони равнялась 75 мм «Пониженная» модификация башни рядом со своей кормовой дверцей имела шаровую установку пулемёта ДТ.На танке КВ-2 устанавливалась гаубица М-10Т калибра 152,4 мм, танковый вариант полевой гаубицы образца 1938 года (М-10). Гаубица М-10Т монтировалась на цапфах в башне и была полностью уравновешена, однако башня с орудием М-10Т уравновешенной не являлась: её центр масс не располагался на геометрической оси вращения. Как результат, штатный электромотор привода поворота башни даже при небольшом крене машины не справлялся со своей задачей. Гаубица М-10Т имела вертикальные углы наводки от −3° до +18°, при фиксированном положении башни она могла наводиться в небольшом секторе горизонтальной наводки (т. н. «ювелирная» наводка). Выстрел производился посредством ручного механического спуска.

Боекомплект орудия составлял 36 выстрелов раздельного заряжания. Выстрелы (снаряды и метательные заряды в гильзах) укладывались в башне и вдоль обоих бортов боевого отделения. По сравнению с широким ассортиментом боеприпасов 152-мм гаубицы М-10 штатный боекомплект КВ-2 был ограничен только одним видом боеприпасов:
осколочно-фугасная стальная гаубичная граната ОФ-530 массой 40 кг (масса взрывчатого вещества — тротил или аммотол — от 5,47 до 6,86 кг) и специальным зарядом, получаемым из штатного заряда Ж-536 буксируемой гаубицы М-10 удалением нескольких равновесных пучков пороха;
КВ-2 оснащался четырёхтактным V-образным 12-цилиндровым дизельным двигателем В-2К мощностью 500 л. с. (382 кВт) при 1800 об/мин, впоследствии мощность двигателя довели до 600 л. с. (441 кВт)