黄侃与章太炎相识于日本。当时黄侃住楼上，章太炎住楼下。一天夜晚，黄因内急，不及上厕所，便从楼窗中解裤洋洋直泻。章太炎此时夜读正酣，蓦地一股腥臊尿水瀑布般往下飞溅，禁不住高声怒骂。黄侃本系贵公子出身，且正年轻性躁，盛气凌人，也报以回骂。不骂不相识，待双方互通姓名后，彼此都熟知对方大名，遂将话锋转到学问上，两人越谈越投机。章太炎是渊博绝伦的朴学大师，黄侃便折节称弟子。自此，黄侃师从章太炎问学经年。章太炎清高孤傲，对近世文人极少嘉许，惟独对黄侃刮目相待。
黄侃与其师章太炎的相识还有一种版本，一次黄侃随众人往章太炎住所拜谒，看到章在墙上用大字写着东汉戴良的四句话：“我若仲尼出东鲁，大禹长西羌，独步天下，谁与为偶？”黄觉得章为人太狂，恐难接近，萌生退意。后章在报上看到黄的文章，惊为奇才，投书约见，二人遂得以相识。
黄侃跟章太炎在东京住了三年多，一直埋头苦读，不时向章请教。可笑的是，他跟章甚久，始终没有“拜师”的形式，章很以为奇。到黄侃决定回国，向章求临别赠言，太炎先生说：“你要拜一个好老师常常指教你才好。”他问什么人好，太炎说：“北京找刘申叔（刘师培）吧。”他答：“暂时不想去北京。”太炎说：“只讲孙诒让也好。”他答：“不想到浙江。”太炎说：“陈伯韬在南京，你可去找他。”答：“南京恐怕去不了。”太炎说：“那怎么办？万不得已，就是我勉强点吧！”这时黄侃才认真地磕头，算是拜了师。从此黄侃位列章太炎门墙，章太炎对黄的学识也十分激赏，曾夸道：“恒言学问进益之速，如日行千里，今汝殆一日万里也。”
章太炎曾对几位高足一一封号：蕲春黄侃（季刚）为天王，吴县汪东（旭初）为东王，海盐朱希祖（逖先）为西王，归安钱夏（中季）（即钱玄同）为南王，歙县吴承仕（检斋）为北王，合称“五大天王”。世人又称黄侃、汪东为“章门二妙”。几大天王中黄侃最得章氏青睐，章称其“清通之学、安雅之词，举世罕与其匹……”
章太炎《新方言》出版时，不请同辈，却请黄侃为他写《后序》，也足见其对黄的看重。
黄侃虽自视甚高，目中无人，但对老师章太炎却执礼甚恭。这一对师生惺惺相惜，留下许多趣闻。“前中大教授黄季刚先生，为章氏最得意弟子，季刚先生事章氏恭谨又倍于他人，黄有弟子陈君，亦能传其衣钵，主章家为西席，章氏以西席礼待之。每逢新年，季刚先生必诣章宅叩贺，至必行跪拜礼，黄叩章，陈又叩黄，章又向陈行礼。坐定，陈举茶敬黄，黄敬章，章又敬其西席，如此循环不绝，家人传为笑谈。”
黄侃对恩师章太炎执礼甚恭，汪辟疆说他“二十余年间执弟子礼始终甚谨”。“‘于并世老宿多讥弹’，惟于太炎先生，则始终服膺无间。有议及章先生者，先生心盛气争之，犹古道也。”章太炎也称他“性虽俶异，其为学一依师法，不敢失尺寸”。黄侃平时爱写诗，经常请章审阅，黄侃对章的字纸都特别珍视，每获得章信，便裱起来珍藏。章知道黄有此爱好，有时还特地为黄写几幅字，写几首诗，黄每有所获便如获至宝。一九二九年一月十二日，章太炎六十大寿。当时章住上海，为祝贺老师生日，黄侃特地提前几天赶往上海做准备，可见其至诚之心。
黄侃常将其老师章太炎比作苏格拉底，将自己比作柏拉图，因为他认为老师的学问博大而散漫，惟自己能整理之；且认为章太炎正象苏格拉底一样根本蔑视美，而自己却风流能事，正如柏拉图般关心物美。后来有一次，章太炎问黄侃：“妇人身上何处最美？”黄侃说：“老师您以为呢？”章太炎说：“以我观之，妇人之美，实在双目。”黄侃笑道：“都说先生痴，据此来看，先生哪里痴呢！”从此，黄侃对章太炎的看法才有所改变。
黄侃英年病逝，章太炎不胜悲痛，亲为弟子撰写墓志铭，称其“尤精治古韵。始从余问，后自为家法，然不肯轻著书。余数趣之曰：‘人轻著书，妄也。子重著书，吝也。妄不智，吝不仁。’答曰：‘年五十当著纸笔矣。’”
黄侃在北大几乎骂遍同列，连师弟钱玄同也不放过，惟有一人，他以礼相待，这人就是与章太炎齐名的国学大师刘师培。别人问黄侃何故对刘师培特殊优待？他回答道：“因为他与本师太炎先生交情很深。”
章太炎、刘师培、黄侃三人常在一起切磋学问，然而每次谈到经学，只要黄侃在场，刘师培就三缄其口，黄侃很快就猜透了对方的心思。有一次，刘师培感叹自己生平没有资质优秀的弟子堪当传人，黄侃即朗声问道：“我来做你的关门弟子如何？”刘师培以为黄侃只是开玩笑，便说：“你自有名师，岂能相屈？”黄侃正色相告：“只要你不认为我有辱门墙，我就执弟子礼。”第二天，黄侃果然用红纸封了十块大洋，前往刘家磕头拜师，刘师培当仁不让，欣然受礼，他说：“我今天就不再谦让了。”有人认为黄的学问在刘之上，黄不必自轻身份，黄说：“《三礼》为刘氏家学，非如此不能继承绝学，此所谓道之所存，师之所存。”
一九一六年刘师培与黄侃在北京见面时，刘将其关于《左传》的研究著作出示给黄侃，黄读后十分佩服，认为刘乃“旷代奇才”，对其过目成诵的才能尤为推崇。一次侄子黄焯问黄侃，刘师培与章太炎哪一个读书较多，黄侃不悦道：“汝何知？刘先生之博，当世殆无其匹。其强记复过绝人。”
有一段时间刘师培失业在家，黄侃向蔡元培推荐他到北大任教，蔡以他曾经依附过袁世凯不肯聘任，黄侃则坚持说：“学校聘其讲学，非聘其论政。何嫌何疑？”最终蔡接受了黄的意见，聘请了刘。
刘师培去世前对黄侃说：“我一生应当论学而不问政，只因早年一念之差，误了先人清德，而今悔之已晚。”刘师培去世次年，黄侃在武昌写了一篇悼文《先师刘君小祥奠文》，中有“悲哉小子，得不面墙，手翻继简，涕泪浪浪”之句。
当时黄刘二人名气相差无几，且刘仅年长二岁，黄拜刘为师令许多人不解。连章太炎也不以为然：“季刚小学文辞，殆过申叔（即刘师培），何遽改从北面？”黄答：“予于经术，得之刘先生者为多。”这也足见黄侃的好学精神。