Первоначально самолёт создавался в качестве истребителя завоевания превосходства в воздухе, способного заменить устаревшие J-6 и J-7 в китайских военно-воздушных силах. Проект разворачивался в условиях «холодной войны» и весьма прохладных отношений Китая и СССР. В то время основная доктрина ВВС Китая носила чисто оборонительный характер и предусматривала отражение воздушного нападения противника и предотвращение нарушения целостности границ страны. Поэтому, в основу концепции истребителя изначально закладывалась задача завоевания превосходства в воздухе. В качестве основных противников рассматривались советские истребители МиГ-29.
Позднее, с развалом СССР, вслед за изменением геополитического климата в мире, менялась доктрина применения авиации Китая. Соответственно менялась и концепция J-10, которая в окончательном варианте оформилась в облик многофункционального истребителя, предназначенного для совместных действий со всеми родами войск.
Сначала проектирование новой машины поручили конструкторскому бюро завода в Сиане. Но этот завод уже был загружен разработкой истребителя-бомбардировщика FBC-1, и в 1991 г. права участия в проекте добились предприятия в Шеньяне (провинция Ляонин) и Ченгду (провинция Сычуань). Однако чуть позже руководство, учитывая, что в Шеньяне в те годы активно занимались модернизацией истребителя J-8, полностью передала работу по «проекту № 10» на завод в Ченгду, в состав которого входил и 601-й институт.
В сентябре 1988 г. концепцию новой машины утвердили на совместном заседании ЦК КПК, министерства авиации и научно-технического комитета министерства обороны КНР В октябре того же года документацию, полученную от израильской стороны, передали в 611-й и 601-й научно-исследовательские институты (по другим источникам — только в 601-й). Работа получила название «проект 8810» или «проект № 10».
Ещё в 1970-е гг. из состава 601-го института, который тогда располагался на заводе в Шеньяне, решением отдела оборонной промышленности министерства обороны КНР выделили 500 человек и перевели их на завод в Ченгду, образовав филиал 601-го института (сегодня это «Ченгду эйркрафт дизайн ин-ститьют»). Именно этот филиал и занимался в те годы разработкой J-9, поэтому носовая часть этого самолёта была так похожа на нос истребителя J-811. В 1980 г. Госсовет, Центральная военная комиссия и научно-технический комитет министерства обороны назначили 601-й институт генеральным разработчиком проекта истребителя J-7111 (являвшегося аналогом советского МиГ-21МФ). Работа двигалась достаточно быстро, что, впрочем, неудивительно — в феврале 1979 г. в Египте китайцам удалось «достать» один МиГ-21МФ. В мае 1979 г. началось «клонирование». За работу взялись сразу два завода: в Ченгду изготавливали фюзеляж, выполняли окончательную сборку и проводили лётные испытания, а на предприятии в Гуйчжоу (известном тогда как «база 011», а теперь как «Гуйчжоу авиэйшн индастриз груп компани» или GAIGC) делали крыло и шасси. Справедливости ради стоит упомянуть, что во время работы над этим вариантом в Китае впервые стали применять САПР Первый полёт J-7111 состоялся 26 апреля 1984 г. Таким образом, 601-й институт показал себя с хорошей стороны, да к тому же имел представление об особенностях аэродинамической схемы «утка». Так что выбор организации-разработчика был вполне закономерен.
Кроме того, к проектированию машины привлекли целый ряд других ведущих НИИ, среди которых были 606-й (авиационные двигатели) и 607-й институты (радиолокационные станции). Проекту присвоили высший уровень секретности. Надзор за режимом осуществляли сразу три организации: министерство госбезопасности, министерство общественной безопасности и Управление оборонной промышленности министерства обороны КНР. Кроме того, секреты оберегали и собственные службы безопасности компаний — участниц проекта.
Тем не менее утечки происходили. В середине 1997 г. один из инженеров, работавший по проекту «8810», просто исчез. Как потом выяснилось, получив возможность выехать за пределы страны, он принял решение'остаться за рубежом, прихватив доступные ему материалы. Инженер обратился за защитой к ЦРУ на условиях обмена информации по проекту на американское гражданство. Однако при передаче материалов обнаружилось, что часть особо ценных документов исчезла. Китайцу предложили по памяти восстановить пропавшее, но спустя неделю он погиб в автомобильной катастрофе при довольно странных обстоятельствах.
Этот стало вторым случаем нарушения режима секретности с момента начала проекта. Первый произошёл в 1995 — 1996 гг. Работавший над истребителем с самого первого дня помощник одного из инженеров ушёл из проекта и разместил в Интернете ряд статей, содержавших закрытую информацию. В результате нарушитель был осуждён на несколько лет лишения свободы.
Два года в 611-м институте изучали техническую документацию на истребитель «Лави» и приводили её к нормам, принятым в китайской авиапромышленности. Одновременно с этим в 601-м институте осваивали программирование на языке АОА. Он являлся базовым для программного обеспечения системы управления израильского самолёта и был выбран в этом же качестве для китайского аналога.
В 1989 г., из-за событий на площади Тяньаньмэнь, наладившееся было военно-техническое сотрудничество США и Китая прекратилось. США в одностороннем порядке свернули все контакты. При этом пострадали проекты модернизации основных истребителей ВВС НОАК — J-811 и J-7. В 1986 г. администрация Рейгана предложила КНР помощь в модернизации J-811 в соответствии с американо-китайской программой кооперации «Пис перл». Согласно этому соглашению американская компания «Грумман» должна была помочь заводу в Шеньяне модернизировать 55 самолетов J-811: на них собирались установить американские РЛС Вестингауз AN/APG-66(V), шины обмена данных 1553В MILSTD, индикатор на лобовом стекле и другое новое БРЭО. В том же году правительство Китая подписало с фирмой «Грумман» контракт на сумму 550 миллионов долларов, предусматривавший модернизацию истребителей другого типа, J-7. Программа получила наименование «Сейбр-2». Вместе с американцами в ней участвовали и англичане. От американских и британских предприятий требовалось оснастить J-7 новыми двигателями и авионикой. Проект получил название «Супер-7». Ухудшение отношений Поднебесной с Западом отрицательно повлияло на перспективы модернизации J-7 и J-8. «Супер-7» в дальнейшем трансформировался в лёгкий истребитель FC-1, сделанный, правда, уже с помощью других союзников. Значение же проекта «8810» возросло
В феврале 1990 г. руководители китайской авиапромышленности докладывали председателю КНР Ли Пэну о ходе разработки новых моделей истребителей. Часть отчёта была посвящена результатам работы по проекту «8810». Свидетельством тому служит фотография, сделанная во время этой встречи: на дальнем фоне, рядом с моделью самолёта J-811, отчётливо видна модель истребителя схемы «утка».
В том же году проект «8810» стал причиной крупного скандала. Американские секретные службы, получив информацию о сотрудничестве Китая и Израиля, представили её правительству США, что вызвало бурю негодования как в Пентагоне, так и в госдепартаменте. Правительству Израиля немедленно указали на недопустимость сотрудничества и передачи третьей стороне технологий, полученных от американцев в рамках совместного израильско-американского проекта «Лави». Практически одновременно США предприняли ряд действий, направленных на остановку работ, и даже пригрозили приостановить военную помощь Израилю. Однако израильское руководство отстояло свою позицию, что оставило определённый след в отношениях этих стран.