Историю образования атмосферы пока не удалось восстановить абсолютно достоверно. Тем не менее выявлены некоторые вероятные изменения ее состава. Становление атмосферы началось сразу после формирования Земли. Имеются довольно веские основания полагать, что в процессе эволюции Праземли и обретения ею близких к современным размеров и массы она практически полностью утратила свою первоначальную атмосферу. Считается, что на раннем этапе Земля находилась в расплавленном состоянии и ок. 4,5 млрд. лет назад оформилась в твердое тело. Этот рубеж принимается за начало геологического летоисчисления. С этого времени происходила и медленная эволюция атмосферы. Некоторые геологические процессы, как, например, излияния лавы при извержениях вулканов, сопровождались выбросом газов из недр Земли. В их состав, вероятно, входили азот, аммиак, метан, водяной пар, оксид и диоксид углерода. Под воздействием солнечной ультрафиолетовой радиации водяной пар разлагался на водород и кислород, но освободившийся кислород вступал в реакцию с оксидом углерода с образованием углекислого газа. Аммиак разлагался на азот и водород. Водород в процессе диффузии поднимался вверх и покидал атмосферу, а более тяжелый азот не мог улетучиться и постепенно накапливался, становясь основным ее компонентом, хотя некоторая его часть связывалась в ходе химических реакций.

Под воздействием ультрафиолетовых лучей и электрических разрядов смесь газов, вероятно присутствовавших в первоначальной атмосфере Земли, вступала в химические реакции, в результате которых происходило образование органических веществ, в частности аминокислот. Следовательно, жизнь могла зародиться в атмосфере, принципиально отличной от современной.

С появлением примитивных растений начался процесс фотосинтеза (см. также ФОТОСИНТЕЗ), сопровождавшийся выделением свободного кислорода. Этот газ, особенно после диффузии в верхние слои атмосферы, стал защищать ее нижние слои и поверхность Земли от опасных для жизни ультрафиолетового и рентгеновского излучений. По оценкам, наличие всего 0,00004 современного объема кислорода могло привести к формированию слоя с вдвое меньшей, чем сейчас, концентрацией озона, что тем не менее обеспечивало весьма существенную защиту от ультрафиолетовых лучей.

Вероятно также, что в первичной атмосфере содержалось много углекислого газа. Он расходовался в ходе фотосинтеза, и его концентрация должна была уменьшаться по мере эволюции мира растений, а также из-за поглощения в ходе некоторых геологических процессов. Поскольку парниковый эффект связан с присутствием углекислого газа в атмосфере, некоторые ученые полагают, что колебания его концентрации являются одной из важных причин таких крупномасштабных климатических изменений в истории Земли, как ледниковые периоды.

Присутствующий в современной атмосфере гелий, вероятно, большей частью является продуктом радиоактивного распада урана, тория и радия. Эти радиоактивные элементы испускают альфа-частицы, которые представляют собой ядра атомов гелия. Поскольку в ходе радиоактивного распада электрический заряд не образуется и не исчезает, на каждую альфа-частицу приходится два электрона. В итоге она соединяется с ними, образуя нейтральные атомы гелия. Радиоактивные элементы содержатся в минералах, рассеянных в толще горных пород, поэтому значительная часть гелия, образовавшегося в результате радиоактивного распада, сохраняется в них, очень медленно улетучиваясь в атмосферу. Некоторое количество гелия за счет диффузии поднимается вверх в экзосферу, но благодаря постоянному притоку от земной поверхности объем этого газа в атмосфере неизменен.

На основании спектрального анализа света звезд и изучения метеоритов можно оценить относительное содержание различных химических элементов во Вселенной. Концентрация неона в космосе примерно в десять миллиардов раз выше, чем на Земле, криптона - в десять миллионов раз, а ксенона - в миллион раз. Отсюда следует, что концентрация этих инертных газов, изначально присутствовавших в земной атмосфере и не пополнявшихся в процессе химических реакций, сильно снизилась, вероятно, еще на этапе утраты Землей своей первичной атмосферы. Исключение составляет инертный газ аргон, поскольку в форме изотопа 40Ar он и сейчас образуется в процессе радиоактивного распада изотопа калия.