Después de una adicción a las drogas que causó su retiro de los Chili Peppers en 1992, Frusciante se recuperó tras un mes de [[Rehabilitación (Medicina)|rehabilitación]], a principios de 1998.<ref>{{Cita web|url=http://allmusic.com/cg/amg.dll?p=amg&searchlink=JOHN|FRUSCIANTE%7CFRUSCIANTE&sql=11:7veyxdkbjoly~T1|título=Biography of John Frusciante|fechaacceso=25 de julio de 2007|editorial=All Music Guide}}</ref><ref name=p389>Kiedis, Sloman, 2004. pp. 389–400</ref> Poco después, fue invitado a reunirse a los Red Hot Chili Peppers.<ref name=p389/> Luego de meses de composición y grabación, fue lanzado ''[[Californication (álbum)|Californication]]'', el siguiente álbum de los Chili Peppers. El álbum llegó a vender quince millones de copias en todo el mundo convirtiéndose en el álbum más exitoso de la banda.<ref name="bbc">{{Cita web|url=http://news.bbc.co.uk/1/hi/entertainment/3864401.stm|título=Chili Peppers' album tops survey|fechaacceso=20 de abril de 2007|editorial=BBC}}</ref> El regreso de Frusciante generó muchas reacciones por parte de los críticos, que reconocieron al álbum como una revitalización comercial con respecto a su grabación anterior, ''[[One Hot Minute]]''.<ref name="rsreview">{{Cita web|url=http://www.rollingstone.com/reviews/album/277669/californication|título=''Californication'' review|fechaacceso=20 de abril de 2007|editorial=Revista ''Rolling Stone''|autor=Greg Tate}}</ref><ref name=AMGCalif>{{Cita web|url=http://www.allmusic.com/album/r417478|autor=Greg Prato|título=''Californication'' Review|fechaacceso=24 de junio de 2007|editorial=All Music Guide}}</ref><ref name=pitchfrkreview>{{Cita web|url=http://www.pitchforkmedia.com/article/record_review/21277-californication|autor=Brent DiCrescenzo|título=Californication Review|fechaacceso=24 de junio de 2007|editorial=Pitchfork Media|urlarchivo=http://web.archive.org/20070619021224/www.pitchforkmedia.com/article/record_review/21277-californication|fechaarchivo=19 de junio de 2007}}</ref> Posteriormente se realizó una gira internacional de dos años, que incluyó varias apariciones en festivales como [[Woodstock 99]] y [[Rock in Rio]].
La escritura y composición de ''By the Way'' comenzó inmediatamente tras la culminación del tour mundial de ''Californication'', en la primavera de 2001. Al igual que con ''Californication'', la mayor parte de la creación tomó lugar en las casas de los miembros de la banda y el estudio de grabación.<ref name=ScrTissPg456>Kiedis, Sloman, 2004. p. 456</ref> Kiedis recuerda la situación: "Comenzamos encontrando algo de magia, algo de música, algunos [[riff]]s, algunos ritmos, algunas improvisaciones y algunos graves, los sumamos, los restamos, los movimos y les pusimos melodías".<ref name=ScrTissPg456/> Frusciante y Kiedis colaborarían juntos por varios días seguidos, discutiendo y compartiendo progresos de guitarra y letras.<ref>Kiedis, Sloman, 2004. p. 458</ref> Para Kiedis, «escribir ''By the Way''...fue una experiencia totalmente diferente con respecto a ''Californication''. John estaba nuevamente en sus cabales y rebosante de confianza».<ref name=ScrTissPg456/>
