Øystein Jensen forsker innenfor folkeretten, og er særlig opptatt av havretten og internasjonal institusjonsrett. Geografisk har han fokus på polarregionene, spesielt Norges maritime områder. For tiden forsker han også på domstolers rolle og havrettsdomstolen, etablering av maritime grenser, ekspertregimers rolle i folkeretten og Svalbardtraktaten.