В 1958 г. ГАЗ начал разрабатывать новый гражданский автомобиль на смену устаревающей 21-й «Волге». Прорабатывались разные варианты кузова: несущий и на раме, над внешним видом автомобиля параллельно работали две команды дизайнеров (Льва Еремеева и Ления Циколенко), предложившие шесть пластилиновых поисковых макетов.

Автомобиль изначально проектировался под разные типы двигателей — модернизированный четырёхцилиндровый от ГАЗ-21, вновь разрабатывавшийся трёхлитровый V6, имевшийся в производстве V8 от ГАЗ-23, а впоследствии также и четырёхцилиндровый рядный дизельный двигатель иностранного производства.

Параллельно с параллельно с разработкой автомобиля модернизировали и технологическое оснащения завода, построили новые цеха. За пределами ГАЗа были построены заводы штампов, пресс-форм и коробок скоростей.

Две серии ходовых образцов были смонтированы в 1962-63 гг. и повторяли различные макеты, предложенные командами дизайнеров. В итоге в январе 1964 г. заводской художественный совет утвердил проект Циколенко и Киреева, как более оригинальный и обладающий лучшей аэродинамикой.

В 1964-66 гг. на основе финального дизайна построили III серию ходовых образцов (шасси № 7-18) для представления, фотосъёмки, рекламы и патентования стилистических решений кузова за рубежом. Прототипы собирали двух вариантах: двухфарном (с 4-цилиндровым рядным двигателем) и четырёхфарном (с двигателем V6). В крупную серию в итоге пошёл только двухфарный.

В 1966-м был согласован запуск автомобиля в серию, в следующем году завершился процесс патентования, но из-за арабо-израильской Шестидневной войны (арабские страны были союзниками СССР) ГАЗ получил указание резко увеличить выпуск военной техники, а также в ускоренном порядке довести до конвейера новую модель бронетранспортёра ГАЗ-49 (будущий БТР-70). Поэтому ГАЗ-24 пошла в серию только к концу 1969 г. 15 июля 1970 года выпуск ГАЗ-21 прекратили; единственной моделью, выпускаемой с этого времени стал ГАЗ-24.

От штатной установки автоматической коробки передач пришлось отказаться, как и от шестицилиндрового двигателя (строились единичные экземпляры с импортными шестицилиндровыми двигателями). На небольших сериях экспортных автомобилей как самим ГАЗ-ом, так и иностранными фирмами - дилерами иногда устанавливались дизельные двигатели (Peugeot-Indenor, иногда Mercedes).

24-я «Волга» существенно модернизировалась два раза: в 1976-78 и 1985-87 гг. В результате второй модернизации была создана ГАЗ-24-10, выпускавшаяся до 1992 г. За все время было выпущено 1 481 561 экземпляр (самая массовая легковая модель в истории завода).

Среди модификаций ГАЗ-24 выделяются «догонялка» для спецслужб и ГАЗ-24-01, предназначенная для работы в такси.