В 1954 году работала комиссия по выбору места для строительства полигона, которая руководствовалась следующими критериями:

обширный, малонаселённый район, земли которого мало использовались в сельскохозяйственном производстве (существовала необходимость отчуждения немалых площадей земли в районах падения ступеней ракеты, трасса полета не должна проходить над крупными населенными пунктами);
наличие железнодорожной магистрали для доставки различных грузов на полигон, в том числе блоков ракет;
надёжные источники пресной воды для обеспечения полигона питьевой и технологической водой в больших объёмах;
расстояние между стартом ракеты и местом падения её головной части (полигон Кура на Камчатке) — не менее 7000 км.
Рассматривалось несколько вариантов возможной дислокации полигона: Марийская АССР, Дагестан (западное побережье Каспийского моря), Астраханская область (вблизи города Харабали) и Кызыл-Ординская область. Имелся ещё один важный фактор: первые модификации ракеты Р-7 были оснащены системой радиоуправления. Для её функционирования необходимо было иметь три наземных пункта подачи радиокоманд: два симметричных по обе стороны от места старта на расстоянии 150—250 км, третий — отстоящий от старта по трассе полёта на 300—500 км. Этот фактор в конечном счёте и стал решающим: была выбрана Кызылординская область, поскольку в марийском варианте пункты радиоуправления оказались бы в непроходимых лесах и болотах, в дагестанском — в труднодоступной горной местности, в астраханском — один из пунктов пришлось бы размещать на акватории Каспийского моря.

Таким образом, для полигона была выбрана пустыня в Казахстане к востоку от Аральского моря, вблизи одной из крупнейших рек Средней Азии Сырдарьи и железной дороги Москва—Ташкент. Также преимуществами места как полигона для запусков послужили более трёхсот солнечных дней в году и относительная близость к экватору. Линейная скорость вращения Земли на широте Байконура составляет 316 м/с, на широте Плесецка — 212 м/с.

Для дислокации полигона был отведён значительный участок пустынной местности приблизительно посередине между двумя райцентрами Кзыл-Ординской области Казахстана — Казалинском и Джусалы, около разъезда Тюра-Там Среднеазиатской железной дороги. С декабря 1954 по май 1955 года в данной местности работала рекогносцировочная экспедиция, в состав которой входили десятки военных специалистов различных специальностей: ракетчики с полигона Капустин Яр, строители-проектировщики военных объектов из ЦПИ-31, ученые-специалисты из ракетного НИИ-4 Министерства обороны, военные медики-зпидемиологи, специалисты по распространению радиоволн, топографы, геологи. Экспедиция разместилась в пассажирских железнодорожных вагонах, для которых на станции Джусалы был построен специальный тупик, обнесённый двухрядным заграждением из колючей проволоки. На этой территории располагался также прикомандированный из Туркестанского военного округа автобатальон для выполнения транспортных функций. Аэродром Джусалы был модернизирован и расширен, туда была перебазирована транспортная эскадрилья в составе трёх самолётов Ли-2 и шесть легких самолётов Ан-2. Данному району было присвоено кодовое имя «Район Леоновки», этот шифр значился в командировочных предписаниях.

12 февраля 1955 года ЦК КПСС и Совет министров СССР совместным Постановлением № 292—181сс утвердили создание Научно-исследовательского испытательного полигона № 5 Министерства Обороны СССР (НИИП № 5 МО СССР), предназначенного для испытаний ракетной техники. Район формирования полигона в первой половине 1955 года имел условное наименование «Тайга».

Руководителем строительства был назначен строитель генерал-майор Г. М. Шубников. Первый отряд военных строителей прибыл на станцию Тюра-Там 12 января 1955 года.

Строительные работы на полигоне были начаты во второй половине зимы 1955 года. Поначалу военные строители жили в палатках, весной появились первые землянки на берегу Сырдарьи, а 5 мая 1955 года было заложено первое капитальное (деревянное) здание жилого городка. В тот же день 5 мая 1957 года специальная комиссия приняла первый стартовый комплекс полигона, а 6 мая первую ракету Р-7 уже установили на этом комплексе.

Официальным днём рождения космодрома считается 2 июня 1955 года, когда директивой генштаба была утверждена штатная структура Пятого научно-исследовательского испытательного полигона и создан штаб полигона — войсковая часть 11284. К началу испытаний и запусков на полигоне находились 527 инженеров и 237 техников, общая численность военнослужащих — 3600 человек.

Для дезориентирования вероятного противника были построены камуфляжные сооружения («ложный космодром») в Карагандинской области вблизи посёлка Байконур (каз. Байкоңыр). После старта космического корабля «Восток» (с Ю. А. Гагариным на борту) это название в открытой печати закрепилось и за настоящим космодромом — НИИП № 5.