A história do magnetismo começou com um mineral chamado magnetita (Fe3O4), a primeira substância com propriedades magnéticas conhecida pelo homem. Sua história anterior é obscura, mas seu poder de atrair ferro já era conhecido séculos antes de Cristo. A magnetita está amplamente distribuída. No mundo antigo, os depósitos mais abundantes ocorriam na região chamada Magnésia, localizada no que é hoje a Turquia, e a palavra magneto é derivada de uma similar grega, que se diz ter vindo do nome dessa região.
No século III a. C., adivinhadores chineses da sorte operavam com duas placas, uma sobre a outra. A placa superior representava o céu e girava num pivô colocado sobre a placa inferior, que simbolizava a Terra. Além disso, na placa superior estava representada a constelação da Ursa Maior, que gira, no céu, ao redor do eixo Norte-Sul (num referencial em relação ao qual a Terra está em repouso). O adivinho atirava contra as placas algumas peças de magnetita, que simbolizavam vários objetos, e de suas posições o futuro era deduzido. Uma das peças simbolizava a constelação da Ursa Maior e tinha a forma de uma colher. Com o tempo, colheres rotativas substituíram toda a placa superior e como essas colheres sempre se orientavam na direção Norte-Sul, os adivinhos se convenceram de que eram verdadeiramente objetos mágicos. Essa é, na verdade, a essência da bússola magnética, que se tornou um objeto familiar já no século I d. C.
No século VI, os chineses descobriram que pequenas agulhas de ferro podiam ser magnetizadas caso fossem esfregadas com um pedaço de magnetita. Como a utilização da agulha magnética trouxe maior precisão na observação das direções magnéticas, os chineses também descobriram que o Norte e o Sul magnéticos não coincidiam com o Norte e o Sul geográficos, descoberta que só foi feita no Ocidente após mais de setecentos anos. Ainda mais tarde os chineses perceberam que era possível magnetizar o ferro aquecendo-o ao rubro e deixando-o esfriar estendido na direção Sul-Norte. No século XII, a bússola magnética era comum nos navios chineses. No Ocidente, o seu uso se iniciou pelo menos cem anos depois.
O primeiro a escrever sobre o magnetismo no Ocidente foi Peter Peregrinus, que exercia, ao que parece, as funções de engenheiro militar no exército do rei da Sicília, no século XIII. Peregrinus escreveu um tratado datado de 1269 onde, além de descrever a magnetita e suas propriedades, definia a propriedade do imã de apontar sempre para o Norte, mencionava pela primeira vez o termo pólo magnético e explicava como um imã, quando partido em dois, se transformava em dois imãs. O tratado continha, ainda, uma tentativa de aplicar a força magnética para gerar um movimento perpétuo e uma menção da declinação magnética, isto é, do fato de o imã apontar para o norte magnético e não para o Norte geográfico.
O segundo a escrever sobre esse assunto no Ocidente foi o fabricante de instrumentos inglês Robert Norman, cujo livro apareceu em 1581 contendo um pequeno discurso sobre imãs e uma descrição da inclinação magnética, isto é, da inclinação da agulha magnética em relação à horizontal, que difere de um lugar para outro.
Mas o trabalho mais significativo desse tempo e o mais completo desde o tempo de Peter Peregrinus foi o livro De Magnete, publicado em Londres, em 1600, por William Gilbert, na época médico da rainha Elizabeth I. O livro discutia a bússola magnética, o comportamento do imã propriamente dito, com seus poderes de atração e repulsão, a distinção entre a ação magnética e a ação (elétrica) do âmbar e o envolvimento de cada imã por uma “virtude”, que afetava qualquer pedaço de ferro que fosse colocado em sua vizinhança. O livro discutia, também, como um imã de forma esférica poderia desempenhar o papel da Terra e com o auxílio de pequenos imãs, demonstrava o comportamento daquilo que hoje chamamos de campo magnético terrestre, explicando a propriedade da agulha da bússola de sempre apontar para o Norte ou para o Sul, a declinação magnética e a inclinação magnética.
Por mais de um século e meio depois de Gilbert, nenhuma descoberta de importância fundamental foi realizada, embora houvessem muitos melhoramentos práticos na construção de magnetos. Assim, no século XVIII construíram-se muitos magnetos compostos de ferro, formados de muitas lâminas de ferro magnetizadas presas juntas, que levantavam corpos de ferro com pesos 28 vezes maior que seus próprios pesos. Isso é mais notável quando observamos que existia um único modo de fazer magnetos naquela época: o ferro ou o aço tinham que ser esfregados com um imã ou com outro magneto que por sua vez tinha que ter sido esfregado com imã.
No século XIX, o professor dinamarquês Hans Christian Oersted conseguiu provar experimentalmente, em 1820, que quando uma corrente elétrica passava ao longo de um fio aparecia um campo magnético e Andrè-Marie Ampère, na França, entre 1821 e 1825, esclareceu o efeito de uma corrente sobre um imã e o efeito oposto, de um imã sobre uma corrente.
A pesquisa em materiais com propriedades magnéticas começou, pode-se dizer, com a invenção do eletromagneto, em 1825, uma vez que com ele se tornou possível obter campos magnéticos muito mais intensos do que aqueles produzidos por imãs ou magnetos feitos com eles.
Nos anos seguintes, Michael Faraday, na Inglaterra, iniciou suas pesquisas argumentando que se uma corrente num fio produzia efeitos magnéticos, como Ampère tinha demonstrado, o inverso poderia ser verdadeiro, isto é, um efeito magnético poderia produzir uma corrente elétrica. Para testar essa hipótese, Faraday enrolou duas espiras de fio num anel de ferro, uma ligada a uma bateria e a outra, ligada a um medidor de corrente elétrica, verificando a existência, na segunda espira, de uma corrente temporária quando ligava e desligava a bateria. Noutra experiência, Faraday usou uma espira enrolada em uma haste de ferro e dois imãs em forma de barra para demonstrar que os imãs, por si sós, podiam produzir uma corrente. Para explicar como a eletricidade e o magnetismo podiam afetar um ao outro no espaço vazio, Faraday propôs a idéia de um campo, imaginando linhas de força magnética tanto mais próximas umas das outras quanto mais intenso era esse campo e supondo que essas linhas tendiam a se encurtar sempre que possível e a se repelir mutuamente. Mais tarde, em 1837, Faraday introduziu também a idéia de linhas de força elétrica.
A análise matemática completa dos fenômenos elétricos e magnéticos aceita hoje apareceu em 1873, quando o escocês James Clerk Maxwell publicou seu Tratado sobre Eletricidade e Magnetismo.