От брака этого первого из рода Штауфенов герцога Швабии Фридриха I с дочерью императора родились два сына, Фридрих и Конрад. Тринадцатилетний Фридрих унаследовал от отца герцогский титул. После смерти их деда — императора Генриха IV оба брата сохраняли верность Генриху V, его сыну и своему дяде. Когда спустя двадцать лет стало ясно, что со смертью бездетного Генриха V вымрет и Салическая династия, в его племяннике Фридрихе стали видеть наследника престола. Родственная связь молодого дома Штауфенов с угасавшим императорским родом казалась столь тесной, что Штауфенов по их салическому имению близ Вайблингена стали называть также Вайблингенами. Так салические «Генрихи из Вайблингена» и мелкие господа из Бюрена слились в единый род.
Штауфены сумели породниться и с могущественным родом Вельфов, который восходил к некоему Вельфу из Альтдорфа, представителю древнейшей алеманнской знати. Лет за двести до появления Гогенштауфенов он, сидя в Равенсбурге на Боденском озере, правил Южной Швабией и Баварией. Император Людовик Благочестивый, сын Карла Великого, женился вторым браком на его дочери, красавице Юдит, прослывшей из-за своей красоты, ума и редкой для того времени учености колдуньей. Юдит приобрела такое влияние на старого императора, что тот ради ее сына отменил давно установленный порядок наследования среди своих сыновей от первого брака, предопределив тем самым раздел Каролингской империи.
В середине XI века род Вельфов по мужской линии пресекся. Его представительница Кунигунда вышла замуж за итальянца Аццо, герцога Эсте. Сын Кунигунды был назван Вельфом в честь деда по материнской линии и воспитывался в семейных традициях Вельфов. Он возвратил себе родовые имения на Боденском озере, отказавшись ради них от владений в Италии, и получил в лен от короля Генриха IV Баварское герцогство. Этот Вельф, в качестве герцога Баварии именовавшийся Генрихом IX и прозванный за темные волосы и смуглый цвет кожи Генрихом Черным, и стал родоначальником младшей линии Вельфов.
Поначалу представители этого знатного княжеского рода свысока смотрели на мелких господ из Бюрена, говоря, что тем была дана в лен Швабия лишь для того, чтобы посеять в королевстве смуту. Но когда молодой герцог Швабский Фридрих II стал играть все более заметную роль при дворе императора Генриха V и уже считался своим среди членов Салической династии, Вельфы признали его равным себе. Около 1120 года герцог Генрих Черный отдал за него свою дочь Юдит.
Однако Фридриха Швабского постигло горькое разочарование. После смерти в 1125 году Генриха V князья по настоянию папы римского избрали королем не его, а престарелого герцога Саксонии Лотаря Супплинбургского. Поскольку акт передачи Фридриху королевских инсигний, знаков монаршей власти, в свое время не состоялся, он не мог официально считаться наследником престола, хотя Генрих V и передал ему наследственные владения Салического дома. Этим и не замедлили воспользоваться паписты. Братья Штауфены, Фридрих и Конрад, известные своей преданностью Генриху V, разделяли и его отношение к папству, не отличавшееся особым почтением, что теперь им и припомнили. Церковь отдала предпочтение герцогу Лотарю Супплинбургскому, поскольку тот давно слыл противником императоров Салической династии и убежденным папистом. Против Фридриха возник заговор, возглавленный архиепископом Майнцским, примасом, главой немецкой церкви. Между ним, папой, а также архиепископами и епископами непрерывно скакали гонцы, доставляя донесения и распоряжения. Папа даже специально прислал в Германию двоих кардиналов, дабы обеспечить исход дела в интересах римской курии.
Архиепископу Майнцскому удалось хитростью завладеть королевскими инсигниями, отданными Генрихом V на сохранение своей супруге Матильде, после чего противники Фридриха Штауфена в конце августа 1125 года во всеоружии собрались в Майнце для избрания нового короля Германии. Исход голосования был неясен до самого последнего момента, и все решил голос, поданный герцогом Баварии Генрихом Черным, долго размышлявшим, кому отдать предпочтение: своему зятю Фридриху, герцогу Швабскому, или герцогу Саксонскому Лотарю, обещавшему его сыну Генриху, прозванному Гордым, руку своей единственной дочери Гертруды и титул герцога Саксонии в качестве приданого. Рассудив, что больше выгоды будет от породнения с Лотарем, Вельф и проголосовал за него, после чего обескураженный Фридрих Швабский три дня отказывался принести присягу на верность своему новому государю, но затем смирился.
Однако позднее, когда король Лотарь III потребовал возвратить короне в качестве «королевского имения» салическое наследство, завещанное Фридриху Генрихом V, братья Штауфены восстали. Поначалу положение Лотаря казалось угрожающим. Конрад по настоянию старшего брата, предпочитавшего держаться на втором плане, был даже избран частью знати королем в пику «поповскому королю» Лотарю III. Но тут вмешались Вельфы.
Генрих Гордый, шурин Фридриха, ставший после смерти своего отца Генриха Черного герцогом Баварии, справедливо опасался, что Конрад, если сумеет утвердиться на троне, не потерпит объединения в его руках сразу двух герцогств, Саксонии и Баварии. Уже по одной этой причине он стал на сторону своего тестя, сразу же признавшего его в качестве герцога Баварии и завещавшего ему титул герцога Саксонии. Тщетно возражали против этого Штауфены, ссылаясь на законы и обычаи: никогда еще два герцогства не были в одних руках, ибо это вопиющим образом противоречило смыслу ленного права. Однако против превосходящей силы дома Вельфов они не могли ничего поделать. После десятилетней кровавой усобицы Штауфены уступили, покорившись Лотарю III, к тому времени ставшему обладателем и императорского достоинства. Подвергшийся имперской опале Фридрих Одноглазый, как прозвали Фридриха Гогенштауфена из-за потерянного в бою глаза, вынужден был броситься в ноги императору. Он клятвенно заверил, что отказывается от всех притязаний на корону, за что получил обратно свое достоинство герцога Швабии.
В то время как младший из братьев Штауфенов, Конрад, находился при дворе императора, Фридрих держался вдалеке от политики. Расставшись с мечтой о королевской короне, он решил превратить свое герцогство в надежное, единое владение рода Штауфенов. После безвременной кончины своей первой супруги он женился на дочери-наследнице графа Саарбрюккенского, получив за ней в качестве приданого богатые земли Саарланда, служившие естественным связующим звеном между его владениями в Эльзасе и Швабии. Герцог умел не только приобретать, но и удерживать имеющееся. Ясно сознавая недостатки традиционной ленной системы, при которой вассалы нередко выходили из повиновения, он, опираясь на традиции Салической династии и беря пример с Сицилийского государства норманнов, предпринял смелое для того времени нововведение, назначив чиновников, служивших за жалованье.
