룸 셀주크가 분열되면서 튀르크멘 수장(Bey)들이 아나톨리아에 할거하였다. 그중 하나가 바로 오스만이었는데, 15세기에 오스만 튀르크어로 작성된 최초의 연대기인 ‘오스만 가문의 역사’에 따르면 오스만 가문의 시조는 쉴레이만 샤로, 원래 이란 서부와 중앙아시아 방면의 튀르크멘(오구즈) 유목민의 수장이었다고 전한다.
그러나 몽골 제국의 침략으로 5만 호의 튀르크멘과 타타르인을 이끌고 아나톨리아로 도피하여 룸 셀주크에 귀부했다. 그는 몽골의 침입이 좀 잦아든 뒤에는 돌아가려 했으나 유프라테스 강을 건너다 익사해버렸고, 그 후 그의 아들인 에르투글은 그대로 정착하여 룸 술탄 측에서 동로마 제국과의 전쟁을 수행해 공을 인정받아 아나톨리아 중부의 카라자다으라는 산지에 봉토를 받고 베이가 되었다. 하지만 에르투글은 봉지를 쇠위트(오스만 첫 번째 수도)로 이전당했다.
그의 아들이 바로 오스만 제국의 창업주인 오스만 1세이며 그는 룸 술탄국의 붕괴를 틈타 독립하여 당대에 아나톨리아의 동로마 제국 잔존 세력을 격파하고 2대 술탄 오르한 가지는 남동유럽에 교두보까지 구축하여 오스만 제국의 위엄을 떨쳤다. 그들 오스만 집단은 주변의 기독교 세력이나 이슬람교를 신봉하는 영주 및 군사 집단과 싸우기도 하고 손을 잡기도 하면서 점차 영토를 확대해나가, 나중에 오스만 제국으로 발전하게 되는 오스만 베이국을 건국하였다.
1326년경 오스만의 뒤를 이은 그의 아들 오르한 1세는 즉위하고 나서 곧바로 동로마 제국의 지방도시 부르사 점령을 시작으로, 마르마라 해를 넘어 유럽 대륙에 다다를 때까지 영토를 확대하였다. 부르사는 곧 오스만 베이국의 행정 중심지가 되어 최초의 수도로서의 기능을 하게 된다.
1346년, 오르한 1세는 동로마 황제 요한네스 6세 칸타쿠제누스와의 동맹을 계기로 다르다넬스 해협을 넘어 발칸 반도의 트라키아에 진출, 유럽에서의 영토 확장을 개시했다. 오르한 1세의 아들 무라트 1세는 즉위하자마자 콘스탄티노폴리스와 도나우 강 유역을 잇는 중요 거점인 아드리아노폴리스(오늘날의 에디르네)를 점령, 이곳을 제2의 수도로 삼은 것과 동시에 상비포병군 예니체리를 창설하는 등 국가제도를 정돈하였으며 1389년에는 코소보 전투에서 세르비아 왕국을 필두로 한 발칸 제후국들의 연합군을 물리쳤다.
무라트 1세의 아들 바예지드 1세는 1396년에 불가리아 북부에서 니코폴리스 전투를 벌여, 이 전투에서 헝가리 왕국을 필두로 한 십자군을 격파, 오히려 영토를 더 크게 넓혔다. 그러나 1402년의 앙카라 전투에서 오스만 제국은 티무르 왕조에게 패배하였으며, 국내에는 왕자들 간에 후계 싸움이 일어나 제국의 확대는 일시적으로 멈추었다.
바예지드 1세의 아들 메흐메트 1세는 1421년에 제국 재통합을 성공으로 이끌면서 국력을 회복하였다. 그러한 배경을 바탕으로 그 아들 무라트 2세는 다시 자국을 침공한 십자군을 물리치면서 안정된 통치를 펼쳤다. 이렇게 국력이 다시 상승하자 1453년, 무라트의 아들 메흐메트 2세는 동로마 제국의 수도 콘스탄티노폴리스를 공략하여 마침내 동로마 제국을 점령했다,
이리하여 오스만 제국은 15세기 말까지 지상에서는 발칸과 아나톨리아의 거의 모든 땅을 평정하고, 바다에서는 흑해 북해안과 에게 해의 섬들까지 세력을 뻗쳐 흑해와 에게 해를 오스만의 내해로 만들기에 이른다. 이러한 제국을 1512년에 계승한 셀림 1세는 동로마 제국에 이어서 이집트의 맘루크 왕조까지 멸망시켜 이집트, 이라크 지역까지 지배 영역을 확대하였으며, 맘루크 왕조가 소유하고 있던 이슬람교의 2대 성지인 메카와 메디나의 보호권마저 장악하여 이슬람 세계의 맹주로 군림하게 된다. 게다가 그동안 맘루크 왕조의 비호 아래 있던 아바스 왕조의 후예로부터 칼리파의 칭호를 양보 받아 칼리파를 겸하게 되면서 술탄-칼리파제를 창설하였다고 한다. 그러나 이는 19세기 초반에 위조한 것으로 역사적 사실은 아니지만, 이슬람 세계 내에서의 오스만 제국이 그 중심이 된 것만은 확실하다.