北岛康介的游泳姿势曾经造成争议，在他以蛙式开始游泳及转身时，一些人说他的腿部的移动方式类似蝶泳的移动方式[3]，这是2004年雅典奥运会所禁止的。因为这件事北岛康介的对手也曾正式提出抗议，但是北岛康介不曾因此在比赛中被取消资格。也许是因为2004年雅典奥运会的争议，国际业余游泳联合总会已经改变蛙泳的规则，从2005年世界游泳锦标赛开始，允许选手可以在开始与每次转身时使用类似蝶泳的腿部动作。

[4][5]

他在蛙泳这个项目上最大的竞争对手是美国的布伦丹·汉森（Brendan Hansen），他们曾在一些比赛中互相竞争，包括2003年世锦赛、2004年雅典奥运与2005年世锦赛。北岛康介也于2003年世锦赛中分别在100米蛙泳与200米蛙泳都打破世界纪录。虽然后来200米蛙泳的纪录再度被Dimitri Komornikovm与布伦丹·汉森所打破，纪录为2分08秒50，汉森目前也保持着100米蛙泳的世界纪录。

北岛康介于2004年雅典奥运时在100米蛙泳与200米蛙泳击败布伦丹·汉森与Dániel Gyurta，获得金牌后于日本引起一阵旋风。在夺得100米蛙泳金牌时，他在泳池边接受访问时，说了一句“感觉超棒”（日语：チョー気持ちいい）。这句话后来获选为2004年日本新语、流行语大赏[6]。北岛康介也与其他队友在4x100米混合泳接力获得铜牌，并同时打破亚洲纪录。

北岛康介在2006年多哈亚运中蝉联100米蛙泳与200米蛙泳的金牌，不过在50米蛙泳这个项目则败给哈萨克的普利亚科夫（Vladislav Polyakov）。

北岛康介在2008年北京奥运开幕前，曾经说过：“我不夺金牌，我就不会回国！”其后，北岛康介以破世界记录赢得男子200米蛙泳冠军，并再度夺得男子100米蛙泳金牌。北岛康介在北京奥运后宣布退役。

北岛康介在2010年宣布复出。他在2012年日本全国游泳锦标赛夺得100米蛙式冠军，也成为第1位4度获得奥运参赛资格的日本泳将，在男子100米蛙式决赛冲出58.90秒佳绩，刷新日本纪录。北岛康介在东京辰巳国际游泳馆，以0.70秒差距挤下对手立石谅，后来两个人都取得2012年伦敦奥运参赛资格。

2016年4月，为获得里约奥运会的参赛资格，北岛参加了日本游泳锦标赛，首先他在男子100米蛙泳上游出了59秒93，没能达到日本游泳联盟规定的59秒63的奥运派遣标准成绩，之后他又在男子200米蛙泳中仅位列第五，至此北岛无缘里约奥运，比赛结束后他宣布正式退役。