San Jose har fostret lokale talenter på tvers av sjangre, inkludert rock, hip-hop og elektronisk musikk. Bemerkelsesverdige artister og band fra området har satt sitt preg på musikkbransjen. Byens scener for levende musikk, som The Ritz og The Fillmore, er arenaer for både lokale og turnerende artister. I tillegg er San Jose vertskap for flere musikkfestivaler og arrangementer, blant annet den årlige San Jose Jazz Summer Fest, som feirer jazz og andre sjangre og tiltrekker seg musikkentusiaster fra hele regionen.
San Joses kulturlandskap er en levende blanding av tradisjoner og moderne påvirkninger. Byens multikulturelle befolkning bidrar til det rike kulturelle mangfoldet. Mexican Heritage Plaza er et knutepunkt for feiring av meksikansk og chicano-kultur gjennom kunst, musikk, dans og teater. Byen huser også San Jose Museum of Art, som viser en mangfoldig samling av moderne og samtidskunst.
San Joses teaterscene er representert ved arenaer som San Jose Center for the Performing Arts, som er vertskap for et bredt spekter av forestillinger, fra Broadway-musikaler til ballett- og symfonikonserter.
San Jose har en rik historie fra tiden før teknologiboomen i Silicon Valley. Byen ble grunnlagt i 1777 som El Pueblo de San José de Guadalupe, en del av det spanske California. Under gullrushet i California ble byen et viktig forsyningssted for gruvearbeidere på vei til gullfeltene. Byens historie omfatter også jordbruksepoken, da den var kjent for frukthager og hermetikkfabrikker. På 1900-tallet begynte San Joses forvandling til verdens teknologihovedstad, og selskaper som IBM og Hewlett-Packard etablerte seg i regionen.