Sibeliuksen varhaisin viittaus viulukonserttoa varten kirjoitettuun luonnokseen esiintyy kirjeessä, jonka hän lähetti morsiamelleen Aino Järnefeltille Wienistä lokakuussa 1890. Säilyneen sävellyskäsikirjoitusaineiston perusteella emme voi tietää onko juuri tämä kirjeessä mainittu luonnos säilynyt. Vuonna 1898 säveltäjä palasi suunnitelmaansa säveltää viulukonsertto kirjeessään ystävälleen, kirjailija Adolf Paulille. Lopullisen sysäyksen viulukonserton säveltämiselle lienee kuitenkin antanut Sibeliuksen ystävä ja tukija Axel Carpelan, joka pian salanimellä X tapahtuneen esittäytymisensä jälkeen kirjoitti säveltäjälle kesäkuussa 1900: ”uskaltaisiko toivoa joskus tulevaisuudessa viulukonserttoa tai fantasiaa orkesterin kera?”.
Carpelanin toive alkoi toteutua kaksi vuotta myöhemmin. Loppukesällä ja alkusyksyllä 1902 Sibelius vietti aikaa Tvärminnessä, Hankoniemellä. Vaikka Sibeliukselle tarjoutuikin tilaisuus rentoutua ja kalastaa (hän kertoi kirjeissään Ainolle kadehdittavista ahvensaaliistaan), Tvärminnen-viikot eivät olleet pelkkää lomaa. Sibelius muokkasi uudelleen Satua marraskuussa Berliinissä odottavaa esitystä varten ja kertoi kirjeessään Ainolle syyskuun 18. päivältä saaneensa ”ihania teemoja viulukonserttiin”. Muuan viulukonserton ensimmäisen osan teeman luonnoksista onkin päivätty 23. syyskuuta.
Sibeliuksen kirjeenvaihto tai muut kirjalliset lähteet eivät juuri valaise konserton sävellyshistoriaa. Säilynyt luonnosaineisto sen sijaan on runsas, mutta sen kronologinen järjestys ei ole selvillä; Sibelius ei yleensä päivännyt luonnoksiaan, ja Tvärminnessä kirjoitettu viulukonserton luonnos on siis poikkeuksellinen. Lisäksi on todennäköistä, että vaikka aineisto onkin laaja, kaikki luonnokset eivät ole säilyneet. Näin ollen musiikillisten ideoiden kehittymisestä ei lopultakaan voida muodostaa kovinkaan tarkkaa kuvaa.
Luonnoksista käy kuitenkin ilmi, että kuten luonteenomaista Sibeliuksen laajamuotoisille teoksille yleensäkin oli, viulukonsertto kasvoi rinnan useiden sävellyssuunnitelmien kanssa. Niistä osa jäi toteutumattomiksi ja osa puolestaan valmistui usean vuoden ajanjaksolla, sekä ennen konserttoa että sen jälkeen. Teoksia, jotka kytkeytyivät kiinteimmin viulukonserton säveltämiseen olivat vuonna 1902 valmistunut toinen sinfonia, viulukonserton ensimmäisen version kanssa samassa konsertissa kantaesityksensä saanut orkesteriteos Cassazione, vuoden 1906 kantaatti Vapautettu kuningatar, sekä niin ikään kaksi vuotta viulukonserton jälkeen, vuonna 1906 valmistunut sinfoninen fantasia Pohjolan tytär. Lisäksi viulukonserton aineksia esiintyy Sibeliuksen luonnossivuilla muiden muassa vuonna 1905 esitetyn Cortègen ja vieläpä vuonna 1911 valmistuneen neljännen sinfonian erään aiheen kanssa.
Viulukonserton ensimmäinen versio valmistui, ensin viululle ja pianolle kirjoitettuna, kesällä 1903. Sibelius suunnitteli teokselle esityksiä viulisti Willy Burmesterin kanssa, ja ilmeisesti aikoi myös omistaa teoksen hänelle, mutta emme tiedä sävelsikö hän teoksen Burmesterin tekniikka ja viulunsointi mielessään emmekä sitä osallistuiko Burmester jollakin tavoin teoksen soittoteknisten tai muiden kysymysten ratkaisemiseen sen säveltämisen aikana. Ilmeisesti kuitenkaan ei, sillä kirjeessään Sibeliukselle heinäkuulta 1903 hän vaikuttaa yllättyneeltä saatuaan kuulla, että Sibelius todella oli säveltänyt konserttoa ja että teos oli jopa valmis.
Sibelius lähetti Burmesterille kopion pianopartituurista ja sooloviulun osuudesta, ja toivoi teoksen kantaesityksen mahdollistuvan vielä syksyllä 1903. Pian kuitenkin kävi ilmi, ettei Burmester voisikaan esittää teosta ennen vuoden 1904 maaliskuuta. Sibelius puolestaan ei halunnut lykätä kantaesitystä seuraavan vuoden kevääseen, vaan pyysi solistiksi Burmesterin tilalle Viktor Nováčekia. Emme tiedä, miten Burmester tähän suhtautui, mutta vielä joulukuussa 1903 hän kirjoitti Sibeliukselle konsertosta varsin innostuneeseen sävyyn ja selvästikin aikoi tulevaisuudessa esittää teoksen. Nováček ei esittänyt konserttoa kuitenkaan vielä vuoden 1903 puolella, vaan kantaesityksen oli määrä tapahtua tammikuussa 1904. Tämäkään suunnitelma ei toteutunut, vaan teos sai kantaesityksensä Nováčekin ja Helsingin filharmonisen seuran orkesterin soittamana ja säveltäjän johdolla vasta helmikuun kahdeksantena – lopulta siis osapuilleen vain kuukautta aikaisemmin kuin Burmester olisi sen voinut esittää. Syynä lykkäyksille olivat todennäköisesti säveltäjän omat kiireet: hän ilmoitti saaneensa konserton kahden ensimmäisen osan orkesteripartituurin valmiiksi ja käyvänsä kolmannen osan partituurin kimppuun vasta joulukuun loppupuolella 1903.
Konserton kantaesityksestä ja Nováčekin viulistinkyvyistä on meidän aikoihimme saakka esitetty varsin penseitä arvioita. Karl Flodinin tyrmäävää arvostelua lukuun ottamatta kantaesitys ei aikalaiskirjoitusten mukaan kuitenkaan ollut fiasko, ei teoksen eikä solistin osalta. Oskar Merikannon mukaan solisti suoriutui tehtävästään suorastaan mestarillisesti: Nováček soitti huimaavan virtuoosisen uutuusteoksen ulkoa ja konserton toinen osa oli heti toistettava. Evert Katilankin mukaan teoksen esitys oli erittäin lupaava. Katila kirjoitti, että pienillä muutoksilla konsertosta on ”tuleva virtuoosinumero, jolla on arvokas asema uudessa viulukirjallisuudessa. Instrumentationia on ehkä paikoin ohennettava ja ensi osan ulkopiirteitä oijottava.”
Vuotta myöhemmin Sibelius ”oikoikin” ensi osan ulkopiirteitä ja paljon muuta konsertossaan. Hän tosin oli kaavaillut konserton tarjoamista julkaistavaksi jo alkuvuonna 1904, siis varhaismuodossaan, mutta luopui tästä suunnitelmasta suureksi surukseen, kuten hän Axel Carpelanille ilmoitti. Carpelanilla näyttää olleen kaikkiaan varsin keskeinen ja aloitteellinen rooli ensin konserton säveltämisen taustavaikuttajana, sitten ateljeekriitikkona. Hän oli jo joulukuussa 1903, ennen konserton kantaesitystä, saanut lainaksi teoksen pianopartituurin ja esittänyt säveltäjälle ylistävien kommenttiensa lomassa yhden varauksellisen kysymyksen: onko adagio-osan loppuun kirjoitettu, osan ”taivasmatkan” jälkeinen vaikea kadenssi 128-osa-arpeggioin aivan paikallaan ja perusteltu? Vastauksessaan säveltäjä ensin puolusteli ja perusteli kadenssin olemassaoloa, mutta poisti sen lopulta niin orkesteri- kuin pianopartituuristakin. Koska hän muokkasi kadenssin poistamisen yhteydessä myös orkesteriosuuksia, ja tehdyt muutokset kopioitiin jo alun perin musteella orkesteriäänilehtiin – ei siis myöhempinä muutoksina –, kadenssia ei mitä ilmeisimmin kuultu kantaesityksessä eikä koskaan myöhemminkään, ennen kuin Leonidas Kavakos sen soitti varhaisversion levytyksessä v. 1996.
Ensimmäisen osan toisen kadenssin suhteen Sibeliuksen ja Carpelanin mielipiteet menivät niin ikään ristiin helmikuussa 1905, Sibeliuksen ryhdyttyä muokkaamaan teoksen lopullista versiota, mutta tällä kertaa Carpelan puolusti kadenssia kirjeessään seuraavasti: “Kirjoitit kaksi kadenssia ja olet aikeissa poistaa toisen. Eikö kuitenkin olisi mahdollista säilyttää molemmat lisäämällä ’vaihtoehtoisesti’, toisin sanoen varustaa kumpikin merkinnällä ad libitum? Monet viulukonsertot on varustettu vaihtoehtoisin kadenssein.” Tällä kertaa säveltäjän vastausta ei tunneta, mutta julkaistusta versiosta ensimmäisen osan toinen kadenssi on poistettu.
Sibelius siis työskenteli viulukonserton muokkauksen parissa alkuvuonna 1905, tammikuusta toukokuuhun saakka. Erityisesti ensimmäisen osan uudelleenmuokkaus oli varsin työläs ja perusteellinen: toisen kadenssin lisäksi Sibelius ”oikoi” solistin osuutta ja jätti pois monia varsin herkullisiakin käänteitä. Osa lyheni kaikkiaan 41 tahdilla. Toinen osa säilytti pituutensa, mutta solistin osuus yksinkertaistui huomattavasti. Kolmannen osan muokkaukset olivat enimmäkseen lyhennyksiä; osan lopullinen versio on 54 tahtia varhaisversiota lyhempi.
Sibelius valmisti uudistetustakin versiosta ensin pianopartituurin, jotta sen esittävä solisti pääsisi harjoittelemaan teosta pianistin kanssa. Solistiksi kaavailtiin jälleen Burmesteria, joka jälleen kuitenkin lopulta sivuutettiin aikataulukysymysten takia, hän kun ei voisi soittaa konserttoa ennen vuoden 1905 syksyä. Emme tälläkään kertaa tiedä, miten Burmester suunnitelman muutokseen suhtautui, mutta hän ei tiettävästi koskaan soittanut Sibeliuksen viulukonserttoa, eikä muistelmissaan edes mainitse teosta. Viulukonserton kustantaakseen ottanut Robert Lienau ehdotti uudistetun version esittäjiksi viulisti Carl Haliřia ja kapellimestari Richard Straussia, jotka huolehtivatkin konserton uudesta kantaesityksestä Berliinin filharmonikkojen kanssa lokakuun 19. päivänä vuonna 1905 – tuskin paljon aikaisemmin kuin Burmester sen olisi voinut esittää. Sibelius itse ei ollut esityksessä läsnä.
Konserton vastaanotto oli melko laimea, ja itse 74-vuotias viulistilegenda, Brahmsin ystävä ja tämän konserton kantaesittänyt Joseph Joachim antoi teoksesta suorastaan murskaavan arvion, ja jopa esityksen johtanut kapellimestari-Strauss totesi kuivasti, että konsertto oli ”huonosti soitinnettu”. Vaikka nuori unkarilaisvirtuoosi Franz von Vécsey ihastui Sibeliuksen viulukonserttoon ja esitti sitä seuraavina vuosina aina Etelä-Amerikassa saakka, teos ei saavuttanut erityistä menestystä kahteen-kolmeenkymmeneen vuoteen. Sibelius osoitti kiitollisuutensa Franz von Vécseyn pioneerintyölle omistamalla konserton hänelle. Säveltäjä ei itse johtanut konserton uudistettua versiota useammin kuin yhden ainoan kerran, Tukholmassa vuonna 1924, konsertissa, jossa hän johti myös viimeiseksi jääneen sinfoniansa, seitsemännen, kantaesityksen.
Jo varhaisversion kantaesityksen arvioineen Evert Katilan mielestä konserton ”instrumentationia” olisi ollut paikoin ohennettava. Strausskin kohdisti kritiikkinsä nimenomaan soitinnukseen, ja lopulta vuonna 1930 säveltäjä itsekin oli päätynyt siihen, että orkestraatio oli liian raskasta, kuin sinfoniassa, kuten hän totesi. Hän ilmoitti kustantajalle halunsa keventää soitinnusta, ja kustantaja, joka hänkin kertoi kuulleensa moitteita konserton paksusta orkestraatiosta, lähetti ilahtuneena Sibeliukselle kappaleen painettua partituuria, jota säveltäjä voisi käyttää uudelleenmuokkauksen pohjana. Tämä mielenkiintoinen partituuri, johon Sibelius todella merkitsi lyijykynällä suunnitelmiaan soitinnuksen muuttamiseksi, päätyi säveltäjän vävylle, kapellimestari Jussi Jalakselle. Sibeliuksen merkinnöistä käy ilmi, että hän aikoi jättää monissa kohdin erityisesti trumpetit, pasuunat, paikoin myös käyrätorvet pois ja korvata niiden osuudet jousisoittimilla ja puupuhaltimilla. Hän ei kuitenkaan ilmoittanut näitä muutoksia kustantajalle tehtäviksi konserton myöhempiin painoksiin.