De Sword in the Stone vertelt het verhaal van de jonge Arthur (stemmen nogal opvallend verdeeld door drie verschillende acteurs: Rickie Sorenson, Richard Reitherman en Robert Reitherman), een twaalfjarige wees die zich niet realiseert dat hij de zoon is van de late koning Uther Pendragon, wiens dood de troon ledigde en Engeland in de greep van de Donkere Eeuwen dreef. Dat alles verandert na een ogenschijnlijk toevallige ontmoeting met de tovenaar Merlin (Karl Swenson), een listige oude tovenaar die het voornemen heeft om Arthur naar de Sword in the Stone te leiden; een legendarisch zwaard dat alleen door de volgende koning geclaimd kan worden. Maar eerst besluit Merlin, met behulp van zijn trouwe uil Archimedes (Junius Matthews), het joch naar adem te laten snakken, Arthur te leren over de wereld, wetenschap, magie en bovenal over het lot. Helaas slaan het chagrijnige voogd van de jongen, Sir Ector (Sebastian Cabot), en de brutale bully van een oudere broer, Kay (Norman Alden), Merlin of de aandacht die hij Arthur schenkt, niet in dank af en verwerpen ze elk potentieel van de wees. Nu, als Merlin de kwaadaardige tovenares Madame Mim (Martha Wentworth) kan verslaan en Arthur kan overtuigen de Sword uit de steen te trekken, zal de toekomst van het land helder zijn. Als de tovenaar faalt, zal de toekomst immers donker zijn.