就拿segmentfault来说:
楼主发了一个问题,这个问题有多个回答,在数据库是一对多的关系.
每个回答又可以有多个回复,也是一对多的关系.
question(id,user_id,question_content)
answer(id,question_id,user_id,answer_content)
reply(id,answer_id,user_id,reply_content)

这问题。。。
直接Ajax，配合css显示就ok了

使用ajax， ajax怎么用， 请度娘， 大概原理就是
当点击，回复 按钮，就用ajax请求服务器，
服务器这边收到请求后，做存数据库，xxx等相应的操作，
然后再去取出所有的相关评论，做一个json格式的接口，返回
然后再用javascript，操作这个json，将里面的数据，动态的添加到相应的评论地点。

ajax配合css显示即可

可以告诉你大体的思路
使用ajax像comment.php发送添加评论的请求，若返回添加成功的状态，则把此评论append到评论列表底部，若失败则做相应的失败处理

建议题主，先用原生js实现下ajax，别上来就用各种库